- PVSM.RU - http://www.pvsm.ru -

Компания IBM создала первые в мире стохастические нейроны с фазовым переходом

image
Схема стохастического нейрона с фазовым переходом, IBM

Разработчики из компании IBM создали первые в мире стохастические [1] нейроны с фазовым переходом, что сулит нам создание нейроморфического чипа, что позволит значительно ускорить вычисления и обработку информации. О попытках создать подобную технологию сообщалось еще в 2012 году, но тогда этим вопросом занималась корпорация Intel. Спустя четыре года уже разработчики из IBM смогли добиться результатов в данной области.

Чем же принципиально отличается чип из стохастических нейронов с фазовым переходом от классического кремниевого?

Фазовый переход [2] в термодинамике — переход вещества из одной термодинамической фазы в другую при изменении внешних условий. Фактически, создание стохастического нейрона с фазовым переходом позволит создать искусственную модель такой биологической системы, как мозг [3].

Соответствующее исследование [4] бы получено журналом nature еще в мае 2015 года, а опубликовано в апреле 2016.

image
Динамика поведения нейрона при фазовом переходе, IBM

Фазовый переход в искусственном нейроне важен тем, что с его помощью ученые и инженеры смогут добиться эмуляции познавательного процесса обучения, присущего реальному биологическому мозгу. Фактически, данная разработка может активно использоваться в уже существующих проектах нейросетей для проведения обучения сети и когнитивных вычислений, что значительно ускорит процесс обработки информации, например, анализ данных в сети Интернет.

Как и свой биологический собрат, искусственный нейрон от IBM имеет тоже строение. В нем присутствуют дентриты (входы), мембрана (липидный биослой), ядро и аксон (выход). Отличительной особенностью искусственного нейрона является его нейрональная мембрана. В реальном нейроне это липидный биослой, который, по факту, работает как резистор и конденсатор: сигнал пропускается только при накапливании достаточного заряда на дендрите, что приводит к всплеску генерации заряда и прохождению сигнала далее — к другим нейронам.

В нейроне производства IBM мембраза заменена на сплав германия, сурьмы и теллура (GeSbTe или GST). GST уже ранее использовался в производстве перезаписываемых компакт-дисков по причине того, что подвержен фазовому переходу. Это означает, что он успешно может существовать в двух различных состояниях (кристаллическом и аморфном) и легко переключается между ними при поступлении тепла, что косвенно подтверждается перезаписываемыми RW-дисками. В случае с GST материал имеет принципиально различные свойства в зависимости от своей фазы. В кристаллической — это проводник, в аморфной — изолятор.

image
Наглядная демонстрация разницы в поведении нейрона в течении нескольких секунд, IBM

Особое внимание также уделялось и стохастичности в работе чипа. Ученые предположили, что успешная длительная работа нашего мозга при несравненно меньших напряжениях электромагнитных импульсов в сравнении с искусственными нейронными сетями обеспечивается за счет образования случайных связей между нейронами. Именно эта «случайность» и была реализована инженерами IBM в новой технологии благодаря, в том числе, и использованию в технологии материалов, подверженных фазовому переходу, а именно GST.

В состоянии покоя оболочка искусственных нейронов находится в аморфном состоянии. При подаче сигнала (разряда) она начинает кристализироваться, что в итоге делает нейрон из изолятора проводником. После прохождения сигнала нейрон проходит через «сброс», т.е. его мембрана возвращается в свое аморфное состояние.

Где же здесь стохастичность, присущая живым организмам из-за шумов, окружающей среды и прочего? Стохастичность вознакает на этапе обратной аморфизации после кристализации оболочки. Для каждого нейрона время возвращения к исходному состоянию и итоговая аморфность мембраны всегда разная, что и приводит к созданию примерно той же степени «случайности» в их работе, что и у биологических аналогов. Именно поэтому инженеры не могут точно предугадать, какие конкретно нейроны будут готовы в нужный момент и задействованы в передаче информации.

image
Проект нейроморфического компьютера IBM

Инженеры IBM уже собрали 5 кубиков 10 на 10 нейронов и объединили их в сеть из 500 штук. Этот блок показал то же поведение в плане популяционного кодирования, что и биологические нейроны, а также обошел ограничения для обработки цифровых сигналов сформулированные в теореме Котельникова [5].

Автор: ragequit

Источник [6]


Сайт-источник PVSM.RU: http://www.pvsm.ru

Путь до страницы источника: http://www.pvsm.ru/ibm/167167

Ссылки в тексте:

[1] стохастические: https://ru.wikipedia.org/wiki/%D0%A1%D1%82%D0%BE%D1%85%D0%B0%D1%81%D1%82%D0%B8%D1%87%D0%BD%D0%BE%D1%81%D1%82%D1%8C

[2] Фазовый переход: https://ru.wikipedia.org/wiki/%D0%A4%D0%B0%D0%B7%D0%BE%D0%B2%D1%8B%D0%B9_%D0%BF%D0%B5%D1%80%D0%B5%D1%85%D0%BE%D0%B4

[3] мозг: http://www.braintools.ru

[4] Соответствующее исследование: http://www.nature.com/nnano/journal/v11/n8/full/nnano.2016.70.html

[5] теореме Котельникова: https://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D0%BE%D1%80%D0%B5%D0%BC%D0%B0_%D0%9A%D0%BE%D1%82%D0%B5%D0%BB%D1%8C%D0%BD%D0%B8%D0%BA%D0%BE%D0%B2%D0%B0

[6] Источник: https://geektimes.ru/post/279178/