Сократить энергопотребление в ЦОД — поможет новый фотонный чип

в 16:15, , рубрики: ITGLOBAL.COM, Блог компании ITGLOBAL.COM, высокая производительность, энергоэффективность

В MIT разработали архитектуру нового фотонного процессора. Он повысит эффективность работы оптических нейросетей в тысячу раз, по сравнению с аналогичными устройствами.

Чип сократит объемы электричества, потребляемые ЦОД. Рассказываем, как он устроен.

Сократить энергопотребление в ЦОД — поможет новый фотонный чип - 1
Фото — Ildefonso Polo — Unsplash

Зачем нужна новая архитектура

Оптические нейросети работают быстрее традиционных решений, использующих электронные компоненты. Свет не требует изоляции сигнальных путей, а лазерные потоки способны проходить друг через друга без взаимного влияния. Таким образом, все сигнальные пути могут функционировать одновременно, что обеспечивает высокий темп передачи данных.

Но есть проблема — чем больше размер нейросети, тем больше энергии она потребляет. Для решения этой проблемы разрабатывают специальные чипы-ускорители (AI accelerators), которые оптимизируют передачу данных. Однако они масштабируются не так хорошо, как хотелось бы.

Решением проблемы энергоэффективности и масштабирования оптических чипов занялись в MIT и представили новую архитектуру фотонного ускорителя, которая сокращает энергопотребление устройства в тысячу раз и работает с десятками миллионов нейронов. Разработчики говорят, что в перспективе технология найдет применение в дата-центрах, которые взаимодействуют с комплексными интеллектуальными системами и алгоритмами машинного обучения, а также занимаются анализом больших данных.

Что она собой представляет

Новый чип построен на базе оптоэлектронной схемы. Передаваемые данные по-прежнему кодируются оптическими сигналами, но для матричного перемножения используется балансное гомодинное детектирование (стр. 30). Это техника, которая позволяет сформировать электрический сигнал на основе двух оптических.

Для передачи световых импульсов с информацией о входных и выходных нейронах используется один сигнальный путь. Данные о весах нейронов, наоборот, поступают по раздельным каналам. Все они «расходятся» по узлам сетки гомодинных фотодетекторов, которые вычисляют выходное значение для каждого нейрона (определяют уровень сигнала). Затем эта информация поступает в модулятор, который преобразует электрический сигнал обратно в оптический. Далее, он отправляется на следующий слой нейронной сети и процесс повторяется.

В своей научной работе инженеры из MIT приводят следующую схему для одного слоя:

Сократить энергопотребление в ЦОД — поможет новый фотонный чип - 2

Изображение: Large-Scale Optical Neural Networks Based on Photoelectric Multiplication / CC BY

Новая архитектура AI-ускорителя требует всего одного входного и одного выходного канала для каждого нейрона. В результате количество фотодетекторов приравнивается к числу нейронов, а не их весовых коэффициентов.

Такой поход позволяет сэкономить место на чипе, увеличить число полезных сигнальных путей и оптимизировать энергопотребление. Сейчас инженеры из MIT создают прототип, который позволит протестировать возможности новой архитектуры на практике.

Кто еще разрабатывает фотонные чипы

Разработками похожей технологии занимается Lightelligence — небольшой стартап из Бостона. Сотрудники компании говорят, что их AI-ускоритель позволит решать задачи машинного обучения в сотни раз быстрее классических устройств. В прошлом году команда завершала создание прототипа своего устройства и готовилась к проведению тестов.

Работает в сфере фотонных чипов и Cisco. В начале года компания объявила о покупке стартапа Luxtera, который проектирует фотонные чипы для центров обработки данных. В частности, компания производит аппаратные интерфейсы, которые позволяют подключать оптоволокно напрямую к серверам. Такой подход повышает пропускную способность сетей и ускоряет передачу данных. Устройства Luxtera используют специальные лазеры для кодирования информации и германиевые фотодетекторы для её дешифровки.

Сократить энергопотребление в ЦОД — поможет новый фотонный чип - 3
Фото — Thomas Jensen — Unsplash

Занимаются оптическими технологиями и другие крупные ИТ-компании, например Intel. Еще в 2016 году они начали производить собственные оптические чипы, оптимизирующие передачу данных между дата-центрами. Недавно представители организации рассказали, что планируют внедрять эти технологии за пределами центров обработки данных — в лидарах для беспилотных автомобилей.

Что в итоге

Пока что фотонные технологии нельзя назвать универсальным решением. Их внедрение требует больших затрат на техническое переоснащение дата-центров. Но разработки, подобные тем, что развивают в MIT и других организациях, сделают оптические чипы дешевле и скорее всего позволят «продвинуть» их на массовом рынке оборудования для ЦОД.


Мы в ITGLOBAL.COM помогаем компаниям развивать IT-инфраструктуру и предоставляем услуги частного и гибридного облака. Вот о чем мы пишем в корпоративном блоге:

Автор: itglobalcom

Источник

* - обязательные к заполнению поля