Так выглядит настоящая мощь современной Nvidia. Стойку Blackwell Ultra GB300 сравнили с GB200, и прирост оказался очень велик

Компания Nvidia занимает лидирующие позиции на рынке ускорителей для ИИ, и очередные тесты наглядно показывают всю мощь её продукции. Новый стоечный модуль Blackwell Ultra GB300 сравнили с GB200 в рабочих нагрузках DeepSeek с длительным контекстом, и новое решение оказалось на голову выше. 

^[1]

Организация Large Model Systems Organization (LMSYS) протестировала GB300 NVL72 на вывод в условиях длительного контекста, под который как раз Nvidia оптимизировала новое решение, и результаты говорят сами за себя. 

^[1]

Как можно видеть, прирост составляет 33-53%, что очень немало, учитывая, что архитектура осталась той же. Более того, скорость обработки запросов вообще выросла в 1,87 раза. Правда, учитывая, что GB300 только начинают распространяться на рынке, неясно, как там обстоят дела с совокупной стоимостью владения.  

Источник ^[2]