Huawei создала технологию, которая снизит зависимость от памяти HBM

Компания Huawei представит технологический прорыв в области искусственного интеллекта на Форуме по внедрению и разработке ИИ-аналитики в финансовом секторе, который пройдет 12 августа 2025 года. 

По данным китайских СМИ, новая технология позволит уменьшить зависимость китайских ИИ-систем от использования памяти с высокой пропускной способностью (HBM), что повысит эффективность обработки больших моделей и укрепит ключевые элементы экосистемы ИИ в Китае.

^[1]

HBM — это передовая технология DRAM с 3D-стекингом, обеспечивающая сверхвысокую пропускную способность, низкие задержки и высокую энергоэффективность. Для работы больших ИИ-моделей, содержащих сотни миллиардов параметров, HBM позволяет графическим процессорам эффективно обращаться к данным без узких мест, возникающих при использовании традиционной памяти DDR. В настоящее время HBM почти полностью стандартизирована для обучения ИИ и всё чаще используется в выводе моделей.

Тем не менее ограничения производства и экспортные барьеры со стороны США побуждают китайских разработчиков искать альтернативы. Huawei, в частности, исследует технологии корпусирования чиплетов и оптимизацию моделей с уменьшенным числом параметров, чтобы сохранить высокую производительность при сниженной зависимости от HBM. 

Источник ^[2]