
Привет! На связи Дима Шиченко, руководитель отдела разработки встроенных систем Читать полностью »

Привет! На связи Дима Шиченко, руководитель отдела разработки встроенных систем Читать полностью »
Ещё раз о ЦП для машинного обучения в эпоху дефицита мощностей GPU
Представим, что вы запустили в облаке или на своем оборудованиии обучение модели. Выбрали конфигурацию с A100, H100 или L40S, может, даже с RTX 4090. Запускаете обучение модели, ждете, что процесс пойдет как по маслу. Но вместо э��ого в инструментах мониторинга видите, что GPU загружен на 40–60%, а то и меньше.
Причина не в «кривом коде» и не в том, что GPU «не тянут». Проблема глубже: производительность AI-кластера определяется не пиковыми терафлопсами, а самым слабым звеном в цепочке ввода-вывода. Даже самый быстрый GPU беспомощен, если данные не успевают до него «доехать». Он просто ждет.
Генеральный директор Nvidia Дженсен Хуанг недавно Читать полностью »
Хватит спорить — пора запускать и сравнивать.
Тестируем реальные сценарии, измеряем RPS, смотрим на потребление памяти и разбираемся, когда самая разумная стратегия — это просто подождать и обновить Python на free-threading версию.
Привет! Меня зовут Игорь Анохин, я — руководитель платформенной разработки в K2 Cloud и более 8 лет программирую на Python.
Хочу поговорить про асинхронность и многопоточностьЧитать полностью »