- PVSM.RU - https://www.pvsm.ru -
Некоторое время назад исследователи, работающие в IBM, представили концептуальную разработку, которую они назвали «резистивным процессором» (Resistive Processing Unit, RPU). Как утверждается, RPU может многократно ускорить обучение глубоких нейронных сетей — разница по сравнению с обычными CPU может достигать 30 000 раз.
Глубокие нейронные сети являются одним из перспективных направлений разработки интеллекта, обладая способностью к совершенствованию многослойной структуры за счет обучения. Например, в декабре прошлого года стало известно, что в Microsoft создана система распознавания образов, по точности превосходящая человека [1]. Однако обучение требует внушительного вычислительного ресурса, поэтому решения, позволяющие ускорить обучение, становятся все более и более востребованными. Неслучайно, рассказывая об архитектуре GPU Pascal, глава компании Nvidia пообещал, что она десятикратно ускорит приложения глубокого обучения [2].
Что касается RPU, основная идея устройства процессора позаимствована у новых технологий энергонезависимой памяти (NVM), таких как память на эффекте фазового перехода (PCM) и резистивная память (RRAM). Только ее применение, по оценке ученых, дает прирост скорости обучения от 27 до 2140 раз. Исследователи уверены, что оптимизация в виде устранения некоторых ограничений на устройство ячеек NVM позволит увеличить показатель до значения, вынесенного в заголовок.
По сути, сама схема резистивной памяти отражает устройство нейронной сети, что позволяет RPU одновременно хранить и обрабатывать весовые коэффициенты в узлах. Существующие технологии CMOS дают возможность изготавливать процессоры с миллиардами узлов. Например, в обычном процессоре Intel Xeon число транзисторов уже достигло 7,3 млрд штук [3].
Авторы идеи уточняют, что RPU пока находится в стадии исследований. Более того, поскольку память, которую предполагается в нем использовать, еще не достигла рынка, о практической реализации можно будет говорить не ранее чем через несколько лет.
Источники: arXiv.org [4], Tom’s Hardware [5], Engadget [6]
Источник [7]
Сайт-источник PVSM.RU: https://www.pvsm.ru
Путь до страницы источника: https://www.pvsm.ru/news/116792
Ссылки в тексте:
[1] в Microsoft создана система распознавания образов, по точности превосходящая человека: http://www.ixbt.com/news/2015/12/17/v-microsoft-sozdana-sistema-raspoznavanija-obrazov-po-tochnosti-prevoshodjashaja-cheloveka.html
[2] глава компании Nvidia пообещал, что она десятикратно ускорит приложения глубокого обучения: http://www.ixbt.com/news/ht/187149
[3] Intel Xeon число транзисторов уже достигло 7,3 млрд штук: http://www.ixbt.com/news/2016/04/01/intel-intel-xeon-e5-2600-v4-ssd-intel.html
[4] arXiv.org: http://arxiv.org/abs/1603.07341
[5] Tom’s Hardware: http://www.tomshardware.com/news/ibm-chip-30000x-ai-speedup,31484.html#xtor=RSS-181
[6] Engadget: http://www.engadget.com/2016/03/28/ibm-resistive-processing-deep-learning/
[7] Источник: http://www.ixbt.com/news/2016/04/01/ibm-30-000.html
Нажмите здесь для печати.