Рынок ИИ начинает всё сильнее зависеть от CPU, а не GPU. Смещение в сторону агентных ИИ создаёт на рынке сильный дефицит процессоров

Несколько лет рынок ИИ активно развивался, используя GPU ускорители для ИИ, основанные на подобных архитектурах. Однако сейчас, похоже, всё начинает упираться не в такие чипы, а в процессоры. К примеру, Amazon утроила количество CPU в своих серверах, и ей всё равно не хватает.

Согласно данным Semianalysis, развитие именно агентных моделей ИИ и продуктов на их основе резко взвинтило спрос на процессоры. Точнее, в них появилась дополнительная нужда, так как GPU и им подобные ускорители для ИИ используются в целом лишь для обучения.

^[1]

В итоге, как мы уже говорили, Amazon не хватает CPU, несмотря на то, что она использовала их втрое больше, чем в прошлом году. Microsoft уже продала все свои запасы CPU компаниям Anthropic и OpenAI. Кроме того, огромный спрос уже вызвал нестабильность в базах данных, таких как GitHub. Многие пользователи сообщают о перебоях в работе, и в большинстве случаев не удаётся зафиксировать изменения. Напомним, эта платформа принадлежит Microsoft, а Microsoft продала все свои запасы CPU.

Также сообщается, что, если раньше на условные 100 МВт мощности GPU приходился лишь 1 МВт мощности в CPU, а то и меньше, то сейчас показали намного ближе друг к другу.

Источник ^[2]