Рубрика «cpu»

Представим, что вы запустили в облаке или на своем оборудованиии обучение модели. Выбрали конфигурацию с A100, H100 или L40S, может, даже с RTX 4090. Запускаете обучение модели, ждете, что процесс пойдет как по маслу. Но вместо э��ого в инструментах мониторинга видите, что GPU загружен на 40–60%, а то и меньше.

Причина не в «кривом коде» и не в том, что GPU «не тянут». Проблема глубже: производительность AI-кластера определяется не пиковыми терафлопсами, а самым слабым звеном в цепочке ввода-вывода. Даже самый быстрый GPU беспомощен, если данные не успевают до него «доехать». Он просто ждет.

Читать полностью »

Видеокарта Huawei Atlas 300I: видеопамять — LPDDR4X 96 ГБ, общая пропускная способность — 408 ГБ/с, энергопотребление — 150 Вт, производительность — 280 TOPS INT8, 140 TFLOPS FP16

Видеокарта Huawei Atlas 300I: видеопамять — LPDDR4X 96 ГБ, общая пропускная способность — 408 ГБ/с, энергопотребление — 150 Вт, производительность — 280 TOPS INT8, 140 TFLOPS FP16

Генеральный директор Nvidia Дженсен Хуанг недавно Читать полностью »

Хватит спорить — пора запускать и сравнивать.

Тестируем реальные сценарии, измеряем RPS, смотрим на потребление памяти и разбираемся, когда самая разумная стратегия — это просто подождать и обновить Python на free-threading версию. 

Привет! Меня зовут Игорь Анохин, я — руководитель платформенной разработки в K2 Cloud и более 8 лет программирую на Python. 

В чём проблема

Хочу поговорить про асинхронность и многопоточностьЧитать полностью »

Нет нужды брать самый мощный процессор под игры

Нет нужды брать самый мощный процессор под игры

Нелинейность, с которой развивается рынок комплектующих для ПКЧитать полностью »

Приветствую читателя этой статьи. Я студент, учусь по направлению "Приборостроение", но большую часть времени занимаюсь программированием. Все таки это меня привлекает больше. Задумывался по поводу смены ОС на Arch Linux, но пока отложил эту затею в долгий ящик. Смотрел различные ролики на YouTube и заметил, что многие пользователи ставят себе Polybar, в котором можно легко настраивать информацию, выводимую на нечто похожее на Панель задач в Windows. Тогда я подумал "А почему бы не сделать такое в винде?!" и сразу начал гуглить что к чему. Попытался найти готовые аналоги, но ничего не впечатлило, поэтому решил написать свою программу на C++.

Читать полностью »

Почему один и тот же сайт может летать на одном VDS и тормозить на другом - 1

VPS/VDS — это не волшебная коробка, а виртуальный сервер, зависящий от железа и рук, которые всё настраивали. Он не гарантирует стабильную производительность «по умолчанию», и даже если параметры на бумаге выглядят одинаково, под капотом могут скрываться как быстрые NVMe-диски и разумная политика CPU-шаринга, так и загруженный хост с дешёвым RAID на HDD и оверселлом в четыре слоя. Я попытаюсь разобрать ключевые факторы, от которых это зависит.Читать полностью »

Чиплетная архитектура имеет не только преимущества, но и недостатки

Чиплетная архитектура имеет не только преимущества, но и недостатки

В мире железа есть один непреложный закон: чем новее платформа, тем выше должна быть рабочая скорость. Поэтому от Читать полностью »

Разгоняйте процессор и не бойтесь. Правда, справедливо это не для любого CPU

Разгоняйте процессор и не бойтесь. Правда, справедливо это не для любого CPU

Знаете, как бывает — купишь новый процессор для игрЧитать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js