Примечание переводчика: Данная статья является переводом публикации «The AI Revolution: The Road to Superintelligence» ^[1]. Оригинальная статья была написана для широкой аудитории, поэтому многие термины использованные в ней могут быть не точными или вообще не научными. При переводе я старался сохранить непринуждённый дух статьи и юмор, с которым был написан оригинал. К сожалению, это не всегда получалось. Переводчик согласен не со всем, что написано в данной статье, но правки к фактам и своё мнение не были добавлены даже в виде примечаний или комментариев. В тексте могут быть ошибки и опечатки, сообщайте о них, пожалуйста, в личные сообщения, буду стараться исправлять всё максимально быстро. Все ссылки в тексте скопированы из оригинальной статьи и ведут на англоязычные ресурсы.

We are on the edge of change comparable to the rise of human life on Earth. — Vernor Vinge

Мы стоим на пороге перемен сравнимых, разве что с самим рождением человечества. Вернор Виндж.

Каково это находиться здесь?

Захватывающе, на правда ли? Но сейчас мы не видим правой части графика.

И нам кажется, что мы находимся здесь.

Уже не так интересно…

Далёкое будущее уже не такое далёкое

Давайте представим себе, что у нас есть машина времени, и мы переносимся в 1750-й год, в мир, в котором об электричестве ещё ничего не знали, где передача сообщений на дальние расстояния представляла собой разве что перекрикивание через поле или стрельбу в воздух из пушек, а единственным топливом для транспорта было сено. Возьмём оттуда первого попавшегося прохожего и переносимся обратно в 2015-й год, после чего, прогуливаясь с ним по любому современному городу, наблюдаем за его реакцией на привычные для нас вещи. Мы даже не можем себе представить что он испытает, наблюдая за сверкающими капсулами, проносящимися мимо по шоссе, разговаривая с людьми, ещё утром находившимися на другом континенте, наблюдая за хоккеистами, играющими на стадионе в тысячах километрах от нас, прослушивая музыкальное произведение, которое оркестр играл 50 лет назад или рассматривая мой волшебный прямоугольник, позволяющий нарисовать реалистичный портрет любого человека за одно мгновение, посмотреть карту и увидеть своё местоположение в реальном времени, или разговаривать с человеком находящимся на другом конце страны, и другие вещи магического происхождения. И это ещё до того как вы расскажете ему про Интернет, МКС, Большой Адронный коллайдер, ядерное оружие или общую теорию относительности.

Этот опыт будет для него шокирующим, или даже “крыше-сносящим” и это только частично описывает его впечатления. Возможно он даже умрёт от испытанного шока.

Но что будет, если этот человек по возвращении назад в свой родной 1750-й год захочет повторить наш эксперимент, сядет в машину времени и перенесётся на те же 250 лет назад в 1500-й год, заберёт оттуда первого попавшегося прохожего в свое время и покажет ему жизнь в 1750-м? Человек из 1500-го будет удивлён прогрессу и многим не знакомым вещам в 1750-м, но этого вряд ли будет достаточно чтобы убить его. Его ощущения не будут такими “крыше-сносящим”. Отличий между жизнью в 1500-м и в 1750-м гораздо меньше, чем между жизнью в 1750-м и в 2015-м. Человек из 1500 узнает много удивительных вещей о пространстве и физике, будет удивлён масштабом европейских Империй, и конечно же, ему придётся внести сильные поправки в своё представление карты мира. Но различий в повседневной жизни в 1500-м и 1750-м, транспорте, связи и других вещах, определённо будет не достаточно чтобы убить его.

Для того, чтобы наш знакомый из 1750-го мог так же повеселиться как и мы с ним, ему придётся перенестись гораздо дальше, примерно в 12000 — год до нашей эры, во времена до Первой Аграрной революции, которая привела к созданию первых городов, и дала возможность для развития цивилизации. Если бы кто-нибудь из охотничье-собирательского общества, из времени когда человек был по сути лишь ещё одним из видов животных, увидел бы огромные империи 1750-го года, величественные церкви, океанские корабли, огромные коммуны и накопленные человечеством знания, он возможно бы умер.

Но что если после смерти и ему тоже захотелось повторить наш эксперимент? Если он перенесётся из 12000-го года до нашей эры в 24000-й год до нашей эры, возьмёт человека живущего там и вернётся с ним обратно в 12000-й до нашей эры, покажет ему жизнь в своём времени, то человек, наверное произнесёт что-то вроде: “ок, и что поменялось?”. Для человека из 12000-го года до нашей эры, чтобы так же развлечься, придётся перенестись назад более чем на 100 000 лет, что бы найти там кого-то, кого он сможет удивить огнём и существованием языка.

Для того чтобы погибнуть от пережитого шока при путешествии в будущее, необходимо переместиться на достаточное расстояние, чтобы достигнуть “убивающего уровня прогресса”, или Единицу Убивающего Прогресса (ЕДП). Так ЕДП занял 100 000 лет для охотничье-собирательского общества, для общества после аграрной революции, один ЕДП занял всего около 12000 лет, Постиндустриальный мир продвинулся на столько быстро, что для человека из 1750-года надо переместиться всего на пару сотен лет вперёд что бы получить один ЕДП.

Основная идея в том, что прогресс всё время ускоряется. Это и есть то, что футурист Рэй Курцвейл называет Законом Ускоряющейся Отдачи. Это происходит потому, что более развитое общество имеет свойство развиваться быстрее, чем менее развитое. В 19-м веке человечество имело гораздо больше знаний и более продвинутые технологии, чем в 15-м веке, так что не удивительно что человечество в 19-м веке сделало гораздо больше открытий, чем в 15-м.

Это так же работает и в меньших масштабах. Фильм “Назад в будущее” вышел в 1985-м, и прошлое в нём было представлено 1955-м. В фильме, когда герой Майкла Джей Фокса отправился в 1955, его удивило то, что телевидение было ещё в диковинку, цена на газировку того времени, отсутствие любви к гитарным запилам и необычный слэнг. Это был совершенно другой мир, но если бы фильм был снят сегодня, а прошлое было бы представлено 1985-м годом, фильм был бы, возможно, более забавным и отображал бы гораздо большую разницу между мирами. Герой бы оказался во времени до персональных компьютеров, интернета, мобильных телефонов, и социальных сетей. Подросток, рождённый в конце 90-х, чувствовал бы себя гораздо более чужим в 1985-м, чем Марти МакФлай в 1955-м.

Причиной тому всё тот же закон ускоряющейся отдачи. Средний темп изменений между 1985-м 2015-м был гораздо выше, чем темп изменений между 1955-м и 1985-м, и всё это благодаря тому что мир в 1985-м был гораздо более развитым, что позволило произойти гораздо большим изменениям за последние 30 лет, чем за предшествовавшие им 30 лет.

Так что перемены становятся всё большими и их скорость всё возрастает. Это говорит нам о том что нас ждёт достаточно интересное будущее, не так ли?

Курзвейл полагает, что эквивалент прогресса всего 20-го века был бы достигнут за 20 лет при сохранении темпа развития 2000-го года. То есть темп развития в 2000-м году был в пять раз выше среднего темпа развития за 20-й век. Рэй также утверждает что эквивалент прогресса за весь 20-й век уже был достигнут в период между 2000-м и 2014-м годами, и что следующий эквивалент прогресса 20-го века будет достигнут уже к 2021-му году.

Если Курцвейл прав, то мы можем быть так же шокированы 2030-м, как наш знакомый из 1750-го года был шокирован 2015-м. И следующий ЕДП будет достигнут всего за пару десятилетий, и мир в 2050 будет настолько отличаться от сегодняшнего, что мы вряд ли вообще смогли бы его узнать.

И это не научная фантастика. Это то, во что верят лучшие умы современности, которые гораздо умнее нас с вами и обладают большими познаниями в этой области. Если оглянуться назад в историю их предсказания начинают выглядеть вполне логично.

Так почему же когда я говорю “мир через 35 лет может оказаться для нас неузнаваемым”, вы думаете “круто..., но, вряд ли” Три причины для скептического отношения “крыше-сносящим” предсказаниям будущего:

1. Нам кажется что история линейна. Пытаясь представить прогресс грядущих 30-ти лет, мы оглядываемся назад на аналогичный период времени, чтобы представить себе масштабы возможных изменений. Прогнозируя насколько 21-й век изменит мир, мы берём прогресс за 20-й век и прибавляем его к 2000-му году. Именно эту ошибку совершил наш знакомый из 1750, выбрав в качестве подопытного, человека из 1500-го года, ожидая что впечатления того от 1750-го будут сопоставимы с его собственными от путешествия на такое же время вперёд. Мы привыкли мыслить линейно, тогда как здесь необходимо мыслить экспоненциально. Гораздо более логичным методом прогнозирования грядущих изменения было бы не оглядываться назад на 30 лет, а делать выводы взяв за основу современную скорость развития. Такой прогноз уже будет гораздо более точным, но всё равно недостаточно. Что бы прогнозировать будущее ещё точнее, необходимо брать за основу ещё большую скорость прогресса.

2. Недавние события не дают нам понимания общей картины происходящего. Во-первых, если взять достаточно маленький кусок даже очень крутой экспоненциальной кривой, он будет казаться прямым, точно так же если взять огромный круг и посмотреть на него достаточно близко, он будет казаться вполне прямым. Во-вторых экспоненциальный рост, на самом деле не плавный. Как объясняет Курцвейл: прогресс на самом деле происходит по S-образной кривой.

S образная кривая рождается тогда, когда новая парадигма только появляется. Кривая проходит три стадии:
Медленный рост (начальная стадия экспоненциального роста).
Быстрый рост (поздняя, взрывная стадия экспоненциального роста).
Выравнивание уже новой, созревшей парадигмы.

Если брать в расчёт только недавние события, то та часть S образной кривой, в которой мы находимся может исказить наше понимание скорости развития технологий. Отрезок времени между 1995-м и 2007-м был чрезвычайно насыщенным, он застал: взрывной рост интернета, восхождение Microsoft, Google и Facebook, рождение самого феномена социальных сетей, массовое появление мобильных телефонов и позднее смартфонов. Это была вторая фаза S образной кривой, и период 2008-2015 был уже не столь впечатляющим, по крайней мере с точки зрения технологий. И делая прогноз развития беря за основу лишь скорость изменений последних лет, невозможно получить точное представление того что нас ждёт, поскольку в этом случае мы упускаем из вида общую картину. Возможно мы уже стоим на пороге новой большой второй фазы S-образной кривой экспоненциального роста.

3. Наш опыт превращает нас в упрямых стариков, когда мы думаем о будущем. Наше понимание мира строится на основе нашего опыта, и он определяет наше представление о скорости развития, основываясь на происходящих событиях. Так же мы ограничены нашим воображением, которое на основе нашего опыта строит предположения, но наши знания не дают нам возможности делать точные прогнозы будущего. И когда мы слышим предсказания, неукладывающиеся в нашу картину мира, мы склонны считать их глупыми и не обоснованными. Когда позднее в этой статье я буду рассказывать вам, что вы вероятно проживёте 150-250 лет, а то и вовсе не умрёте, ваше подсознание скажет что-то вроде “Это просто нелепо, единственное в чем я уверен, так это в том, что все рано или поздно умрут”. Да, конечно, никто из когда-либо живших на земле ещё не смог пережить собственную смерть. Но и никто не летал на самолётах, до тех пор пока их не изобрели.
Если рассуждать логически, то стоит ожидать повторения исторических закономерностей, то есть ожидать в ближайшие десятилетия гораздо больших изменений, чем нам подсказывает наша интуиция. Так же логично предположить, что если наиболее развитые существа на нашей планете делают всё больше прорывов, со всё ускоряющимся темпом, то рано или поздно они сделают прорыв настолько огромный, что он изменит весь мир и их самих. Примерно так же как эволюция делала прорыв за прорывом на пути создания разума, пока не создала человека, который полностью изменил планету и жизнь всех существ на ней. И если вы присмотритесь к происходящему сейчас в науке и технологиях достаточно внимательно, вы увидите признаки грядущего прорыва, который в очередной раз полностью изменит наш мир.

Путь к Сверхразуму

Что такое искусственный интеллект (ИИ)?

Для меня, думаю как и для вас, искусственный интеллект, до недавнего времени, был лишь выдумкой из научной фантастики, но недавно всё изменилось, когда о нём стали говорить достаточно уважаемые люди, и вы, наверняка не понимаете чем это вызвано.

Существует три причины, по которым большинство людей не до конца понимают определение “искусственный интеллект”:

1.ИИ ассоциируется с фильмами. Звёздные войны, Терминатор, Космическая Одиссея 2001 и даже Джетсоны. Всё это фантастика, так же как и герои-роботы. Поэтому ИИ звучит слишком фантастично.
2.ИИ слишком широкое понятие. Разброс форм ИИ слишком велик: ИИ разнится от калькуляторов до беспилотных машин. Термин ИИ применим к слишком широкому кругу вещей, что делает его понимание достаточно сложным.
2.Даже когда мы пользуемся ИИ, мы не всегда это осознаём. Джон Маккарти, предложивший термин “ИИ” в 1956-м, заметил: “как только он начинает работать никто больше не называет его искусственным интеллектом”. именно по этому ИИ часто воспринимается как нелепое понятие из очень далекого будущего, а не как нечто реальное. И в то же время это звучит как поп-концерт из прошлого, который нам уже никогда не посетить. Рэй Курцвейл говорит что слышал от большого количества людей, что ИИ это нечто, что умерло уже в 80-х, что по его же заявлению равносильно утверждению, что интернет погиб во время краха доткомов в начале нулевых.

Для лучшего понимания ИИ нам необходимо во-первых перестать представлять себе человекоподобных роботов, робот это всего лишь оболочка для ИИ, на самом деле ИИ это компьютер внутри робота, если конечно этот компьютер нарочно был вставлен в робота. Таким же образом программное обеспечение отвечающее за работу Siri. Это ИИ, а приятный женский голос, это всего лишь форма с взаимодействия с пользователем, и тут не задействован ни один робот.
Во-вторых, вы наверняка знакомы с понятием сингулярности или технологической сингулярности. Сингулярность это понятие из математики описывающее ситуацию в которой привычные правила перестают работать. Оно так же используется физиками для описания невероятно плотного вещества черных дыр или для описания всего вещества вселенной до момента Большого Взрыва, опять же ситуация к которой привычные нам законы физики не применимы. Вернор Виндж в своём знаменитом эссэ ^[2] применил термин технологическая сингулярность к моменту в будущем, когда возможности ИИ превзойдут наши собственные. По его мнению в этот момент наш мир будет изменён настолько, что привычные нам правила будут к нему уже не применимы. Позже Рэй Курцвейл определил технологическую сингулярность как момент, в который по закону ускоряющейся отдачи, скорость развития будет стремиться к бесконечности, и в который, наш мир кардинально изменится. Я заметил что многие люди, связанные с ИИ, почему-то перестали пользоваться данным термином, так что я не буду в этой статье использовать его слишком (не смотря на то что речь будет идти именно о технологической сингулярности). И последнее, не смотря на то, что понятие ИИ слишком размыто, все ИИ можно разделить на три категории по их возможностям.

1. ИИ узкого применения. Его так же иногда называют слабым ИИ. Это ИИ специализированный в некой строго определённой области. Такой ИИ может обыграть лучших шахматистов мира, но на этом его возможности заканчиваются. Ни на что большее он не способен.
2. ИИ общего применения. Он же сильный ИИ, или ИИ человеческого уровня. Это ИИ который соответствует уровню разума человеку во всех областях, машина способная выполнять все те же задачи, что и человек. Задача создания сильного ИИ несравнимо сложнее задачи создания слабого ИИ, и нам ещё только предстоит её решить. Профессор Линда Готтфредсон описывает разум как “общую мыслительную активность, способную среди прочего к осознанию, планированию, решению проблем, абстрактному мышлению ^[3], пониманию сложных идей, быстрому обучению, и обучению на собственном опыте”. Сильный ИИ будет способен делать всё это так же легко, как и любой человек.
3. Искусственный Сверхразум. Ник Бостром, философ и председатель Всемирной Трансгуманистической Ассоциации, даёт следующее определение ^[4] Сверхразуму: “разум, превосходящий лучшие умы человечества во всех областях, включая общие знания, и социальные навыки”. Искусственный Сверхразум достаточно широкое понятие, которое разнится от разума лишь слегка превосходящим человека, до разума превосходящего человека во всех областях в триллионы раз. Собственно искусственный Сверхразум и является причиной столь острой дискуссии вокруг ИИ, а так же того, что слова бессмертность и вымирание в обсуждениях ИИ, встречаются так часто.

На сегодняшний день человечество уже построило и использует множество слабых ИИ. ИИ революция — это путь от слабого ИИ к искусственному Сверхразуму, пролегающий через создание сильного ИИ. Давайте более подробнее остановимся на том, что же думают лучшие теоретики ИИ, и ученые и почему революция может произойти гораздо быстрее, чем мы того ожидаем.

ИИ уже управляет нашим миром

ИИ узкого применения — это ИИ возможности которого равны или превосходят человеческие в определённой области. Несколько примеров:

• В современном автомобиле достаточно часто используются ИИ системы узкого применения: от компьютера системы АБС, который определяет блокировку колёс и препятствует потере управления над автомобилем, до системы впрыска топлива, которая определяет сколько топлива должно поступить в цилиндр, в какой момент и какая структура топливно-воздушной смеси оптимальна в данный момент. Автономные машины, которые активно тестирует Google, скрывают в себе надёжную ИИ систему, способную правильно реагировать на дорожную обстановку и управлять движением автомобиля в реальном времени.

• В вашем смартфоне существует огромное количество ИИ систем, каждый раз когда вы пользуетесь навигацией, просматриваете рекомендованную вам музыку в Пандоре, проверяете прогноз погоды на завтра, разговариваете с Siri, вы взаимодействуете с ИИ.

• Спам-фильтр в электронной почте — классический пример ИИ. В него изначальна зашита некая логика, по которой он отделяет спам и блокирет его, и постепенно, основываясь на ваших личных предпочтениях, подстраивается под вас. То же самое делает и термостат от Nest, он определяет ваши предпочтения по температуре в течение дня и подстраивается под вас.

• Вы наверняка замечали эту странную вещь: вы только что искали что-нибудь на Amazon, и потом на других сайтах встречали рекламу именно этого товара. Или что Facebook каким-то образом узнаёт людей, которых вы знаете, и предлагает добавить их в друзья. Всё это результат совместной работы большого количество специализированных ИИ, которые обмениваются информацией между собой, и используют её что бы узнать вас, узнать что вам нравится и, основываясь на этом, определить, что и когда вам показывать. Таким же образом работает секция “Люди купившие этот товар так же покупают это...”, это тоже ИИ, задача которого анализировать поведение миллионов людей, что бы заставить нас покупать больше.

• Google Translate — тоже яркий представитель рода ИИ, показывающий прекрасные результаты в одной, очень узкой сфере. Распознавание голоса — тоже ИИ. Существуют другие приложения, использующие предыдущие два, для перевода речи в режиме реально времени, зачитывая то, что вы сказали сразу же на другом языке.

• Когда самолёт касается взлётной полосы, ИИ определяет к какому выходу и терминалу самолёт должен подъехать. Цена билетов на самолёт тоже определяется не человеком, а ИИ.

• ИИ уже превзошли человека в таких играх как Шашки, Шахматы, Скраббл и Нарды.

• Поиск Google, тоже является ИИ, который использующим сложные алгоритмы ранжирования страниц, и определяет какие страницы показать именно вам.

• И это только потребительские ИИ. ИИ так же распространены у военных, в финансовом секторе (высокочастотная торговля, которая уже составляет более чем половину дневных операций на биржах США). Даже в медицине применяются экспертные системы, помогающие врачам ставить диагнозы, самой известной такой системой, конечно же является IBM Watson ^[5].

ИИ узкого применения, существующие сейчас, не представляют для нас особой опасности. В худшем случае они могут спровоцировать небольшую катастрофу, которая не заденет большую часть населения планеты или даже страны. Например, веерное отключение электричества, проблемы с оборудованием на ядерной электростанции или катастрофу на бирже (примером тому может служить черный четверг 6 мая 2010, когда сбой ИИ обрушил рынок, забрав с собой более триллиона долларов рыночной стоимости, после восстановления работы системы удалось вернуть только часть потерянных денег).
Пока что ИИ не имеет достаточной силы и возможностей, что бы представлять опасность для жизни на планете, но мы уже видим всё увеличивающуюся сеть ИИ, которые являются предшественниками других ИИ, способных кардинально изменить наш мир. По мнению ^[6] Аарона Саенца (Aaron Saenz), существующие ИИ подобны аминокислотам в первичном супе, из которого однажды зародилась жизнь на земле.

Путь от слабого ИИ к сильному

Почему это так сложно?

Ничто не заставит вас восхищаться человеческим интеллектом больше, чем знание о том, как сложно создать компьютер равный ему по способностям. Строительство небоскрёбов, завоевание космоса и детальное понимание событий происходивших после большого взрыва, не идут ни в какое сравнение с пониманием работы нашего собственного мозга ^[3]. На сегодняшний день человеческий мозг ^[3] является самым сложным явлением из всего, что мы знаем.

Интересно, что при постройке сильного ИИ проблемы возникают не там, где бы вы из ожидали. Построить компьютер, способный перемножить два десятизначных числа меньше чем за секунду легко, а вот построить компьютер, который бы отличил собаку от кошки очень сложно. Мы уже построили компьютер, способный обыграть лучших игроков в шахматы. Но построить компьютер, который смог бы понять детскую книжку, а не просто распознать слова, пока что очень сложно. Google сейчас вкладывает миллиарды ^[7] долларов на создание такого ИИ. Сложные вещи такие как вычисление, торговой стратегии, перевод с одного языка на другой, даются компьютерам очень легко. Но такие лёгкие вещи как зрение, движение и восприятие — невероятно сложны. Как сказал ученый Дональд Кнут “ИИ сегодня преуспели во всём, что требует мышления ^[3], но им никак не даётся то, что человек и животные делают не осознанно”. Если задуматься, то достаточно быстро приходит понимание того, что вещи, которые кажутся нам лёгкими, на самом деле являются невероятно сложными, и они нам кажутся лёгкими только потому, что эти умения были оптимизированы за миллионы лет эволюции. Когда мы тянемся рукой к какому-нибудь объекту, наши мышцы, сухожилия и кости в плече, локте и запястье совершают огромное количество движений, согласуют эти движения с информацией получаемой через зрение, чтобы мы могли сделать четкое прямое движение рукой. Создаётся впечатление, что всё это происходит без какого-либо напряжения, и кажется очень лёгким, но это лишь потому что в нашем мозгу ^[3] стоит совершенное программное обеспечение, разработанное и оптимизированное эволюцией специально для этих операций. С другой стороны, умножение длинных чисел или игра в шахматы являются новыми задачами для биологических существ, и у нас не было достаточно времени, чтобы оптимизировать эти умения, поэтому компьютеру гораздо легче победить нас на этом поле. Задумайтесь, какую программу вы бы скорее взялись написать: программу, которая может перемножать длинные числа, или ту, которая смогла бы опознать букву “В” во всех вариациях шрифтов и даже во всём многообразии рукописных вариантов написания?
Интересный факт: Если дать эту картинку для оценки компьютеру и человеку, то оба смогут понять что это прямоугольник составленный из квадратов двух разных цветов.

Но если убрать черную часть, и раскрыть картинку полностью…

Для человека не составит сложности опознать все эти цилиндры, различные плоскости и трёхмерные углы, но для компьютера эта задача окажется непосильной, он увидит лишь различные двухмерные фигуры и тени, которые не сможет правильно интерпретировать. Наш мозг ^[3] совершает огромное количество операций, чтобы интерпретировать эти фигуры и тени в трёхмерные объекты. Так же и для картинки ниже — компьютер на ней увидит лишь двухмерную черно-белую картинку, когда человек способен понять, что это фотография черного трёхмерного камня.

Credit: Matthew Lloyd

Все наши примеры были ограниченны простейшими застывшими картинками. Для того что бы называться сильным ИИ компьютеру будет необходимо уметь распознавать выражение лица, и понимать разницу между различными эмоциями.

Так как же мы всё таки достигнем этого?

Первый шаг к созданию сильного ИИ: увеличение вычислительной мощности

Увеличение вычислительной мощности — необходимый элемент в создании сильного ИИ. Если ИИ должен быть таким же умным, как и человек, то и вычислительные способности его железа должны быть близки к вычислительным способностям человеческого мозга ^[3]. Один из способов определить вычислительную мощность мозга ^[3] — это посчитать количество операций выполняемых за секунду. Для этого надо вычислить максимальное количество операций в секунду различных отделов мозга ^[3] и сложить получившиеся показатели. Рэй Курцвейл придумал более простой способ оценить этот показатель. Он взял примерное количество операций в секунду выполняемое частью мозга ^[3], посчитанную учеными, и соотношение массы этой части к массе всего мозга ^[3], и перемножил их. Звучит сомнительно, но он проделал эту операцию несколько раз беря за основу данные полученные разными учеными и всегда приходил к примерно одному и тому же результату — 10^16 (10 квадрилионов) опереций в секунду. На сегодняшний день мощнейший супер-компьютер, китайский Тяньхэ-2 ^[8], уже превзошел этот показатель, выдавая примерно 34 квадриллиона операций в секунду. Но Тяньхэ-2 — это огромная машина, занимающая 720 квадратных метров пространства и потребляющий 24 мегаватт энергии (наш мозг ^[3] потребляет всего 20 ватт ^[9]), и его строительство обошлось в 390 миллионов долларов. Это конечно же не массовый продукт, на данный момент ему даже не нашли никакого коммерческого применения. Мы оцениваем компьютеры по тому, сколько вычислительной мощности можно купить за 1000 долларов. Курцвейл уверен, что сильные ИИ получат свой шанс стать массовым продуктом, когда за 1000 долларов можно будет купить компьютер способный выдавать 10^16 операций в секунду.

Согласно закону Мура ^[10], который выполняется на протяжении всего времени существования компьютеров, максимальная вычислительная мощность удваивается примерно каждые два года. То есть развитие компьютеров, так же как и развитие человека, имеет экспоненциальный характер. Если посмотреть на график в верху, то мы сейчас находимся ровно там где Курцвейл и предполагал. То есть на отметке 10 триллионов операций в секунду за 1000 долларов. То есть современные компьютеры ценой в 1000 долларов уже превзошли возможности мозга ^[3] мыши. Звучит не очень впечатляюще, но если вспомнить, что в 1985 мы были на отметке одна триллионная человеческого мозга ^[3], одна миллиардная в 1995 и одна миллионная в 2005, то в 2015-м это уже одна тысячная. В эту прогрессию легко укладывается создание к 2025 году компьютера равного по вычислительной способности человеческому мозгу ^[3] стоимостью в 1000 долларов. На сегодняшний день железо уже позволяется нам создать сильный ИИ и сделать его массовым продуктом в течение 10 лет. Но вычислительная мощность сама по себе не делает компьютер сильным ИИ. Так что следующая задача это раскрыть потенциал этого компьютера.

Второй шаг к созданию сильного ИИ: Сделать его умным

Это достаточно сложная часть. На самом деле никто не понимает как сделать компьютер умным. До сих пор не утихают споры о том как добиться того, чтобы ИИ мог понять слово, как бы оно ни было написано, или отличить собаку от кошки. Но на сегодняшний день уже существует несколько стратегий для создания сильного ИИ и рано или поздно одна из них окажется удачной и позволит создать сильный ИИ. Немного подробнее остановимся на существующих стратегиях:

1.Копирование работы мозга ^[3]
Это похоже на то, как-будто ученые сидят рядом с ребёнком, которому всё даётся так легко и непринуждённо, что он продолжает, несмотря на все старания ученых, получать более высокие оценки за контрольные, что они в определённый момент думают: “а, к черту всё, почему бы просто не списывать у него”. И это имеет смысл. Мы тщетно пытаемся построить супер сложный компьютер, но нам повезло иметь прекрасный прототип в виде нашего собственного мозга ^[3], так почему бы этим не воспользоваться. Ученые всего мира стараются разгадать принципы работы мозга ^[3], и то как эволюции удалось создать настолько крутую штуку. По оптимистичным прогнозам ^[11] им это удастся примерно к 2030-му году. Как только учёные разгадают все тайны мозга ^[3], мы поймём, как ему удаётся быть настолько мощным и эффективным, и сможем использовать эти знания для создания более мощного ИИ. Одним из способов копирования работы мозга ^[3] для создания компьютера — это использование искусственных нейронных цепей. В начале это просто сеть соединённых между собой транзисторов “нейронов”, которые, подобно мозгу ^[3] младенца, не обладают никакими знаниями. Потом этот “мозг” обучается, например пытаясь распознать рукописный текст, с начала просто выдаёт случайные буквы, но после того, как он угадывает первую букву, нейронные связи, выдавшие этот ответ усиливаются (закрепляются), если ответ был неверным, то связи ослабляются. Этот процесс повторяется огромное количество раз, таким образом машина самообучается и оптимизируется под выполнение определённой задачи. Мозг ^[3] работает по похожему принципу, и мы продолжаем изучать создание и ослабление нейронных связей, таким образом открывая для себя всё новые способы обучения искусственных нейронных цепей. Более сложный способ эмуляции работы мозга ^[3] — это полное воссоздание его структуры. Для этого берётся мозг ^[3], разрезается на тонкие слои, сканируется и потом при помощи мощного программного обеспечения строится его виртуальная модель, которую запускают на мощном компьютере. В результате мы получаем компьютер, способный на все операции, на которые способен человеческий мозг ^[3], его остаётся только обучить. Если ученые смогут разработать сверхточный способ копирования мозга ^[3], то мы можем даже добиться того, что все воспоминания и даже личность хозяина мозга ^[3] будут перенесены в компьютер. Таким образом, если мозг ^[3] принадлежал Джиму прямо перед тем, как он умер, то наш компьютер проснётся Джимом(? ^[12]), и мы получим сильный ИИ, способный на всё то же на что способен человек, дальше мы сможем превратить его в Сверхразум, что наверняка придётся Джиму по вкусу.
Но как далеко мы от полной эмуляции работы мозга ^[3]? Недавно ^[13], была воссоздана работа 1мм среза мозга ^[3], содержащего в себе всего 302 нейрона. В человеческом мозгу ^[3] около 100 миллиардов нейронов. Если результат вас не впечатлил, то самое время вспомнить про экспоненциальный рост. Сейчас мы можем воссоздать работу мозга ^[3] червя, потом, через достаточно долгий период, воссоздадим работу мозга ^[3] муравья, потом мыши и неожиданно эта идея будет уже казаться куда более правдоподобной.

2. Заставить эволюцию работать на нас
Если мы придём к тому что списывать у нашего вундеркинда слишком сложно, можно попробовать копировать его технику подготовки к экзаменам. Построить компьютер равный по мощности нашему мозгу ^[3] возможно, эволюция мозга ^[3] тому доказательство. И если воссоздание работы мозга ^[3], является слишком сложной задачей, почему бы не имитировать эволюцию? Как показывает практика точное копирование биологических прототипов не всегда является лучшим решение, и крыло самолёта тому яркий пример.
Так как же заставить эволюцию построить нам сильный ИИ? Ответом на данный вопрос является генетический алгоритм, который работает следующим образом: каждый раз по выполнению задания проводится оценка результатов, это происходит раз за разом (в процессе эволюции “производительность” живого существа мерилась по тому смог ли он передать свои гены следующим поколениям или нет). Группа компьютеров будет работать над решением одной задачи, и самые успешные “скрещиваются”, передавая половину своего программного обеспечения новой машине. После долгого процесса такой селекции будут создаваться всё более производительные компьютеры. Самая большая проблема тут — это создание автоматической системы оценки результатов и “скрещивания”. Минус такого подхода в том, что такая “эволюция” может занять миллионы лет, а нам результат необходим в течение ближайших десятилетий.
Но у нас есть преимущество над эволюцией, во-первых эволюция развивается бессистемно, и на каждую полезную мутацию приходится куда большее количество бесполезных или даже вредных мутаций. Если же мы будем контролировать процесс, сохраняя только полезные мутации и даже подталкивая компьютеры к ним, мы можем значительно ускорить процесс. Во-вторых, у эволюции нет цели, она может выбрать и путь уменьшения “производительности” мозга ^[3], так как содержать большой мозг ^[3] для животного это роскошь, он потребляет слишком много энергии. В третьих, чтобы эволюции создать более производительный мозг ^[3], ей необходимо решить проблему подачи энергии клеткам, у нас же нет такой проблемы, так как мы будем использовать чистое электричество. Без сомнений мы справимся с этой задачей гораздо быстрее, чем эволюция, но остаётся открытым вопрос будет ли это достаточно быстро, чтобы игра стоила свеч.

3. Заставить ИИ создать самого себя
Когда ученые заходят в тупик, то стараются создать такой эксперимент, который бы провёл сам себя. И это возможно самый многообещающий способ.
Основная его идея этого метода в том, чтобы создать слабый ИИ со специализацией в исследовании ИИ и внесении изменений в собственный код, что позволит ему не только обучаться, но и создавать себя самому. Мы научим компьютер быть программистом, и таким образом компьютеры сами помогут нам улучшить их. И их главной задачей будет разработать способ улучшения их самих.

И всё это дело ближайшего будущего
Быстрый прогресс в области оборудования, и различные эксперименты с программным обеспечением, могут принести сильный ИИ в нашу жизнь очень быстро. И на то есть две причины:

1. Экспоненциальный рост достиг таких скоростей, что даже то, что как нам кажется движется очень медленно, может привести через короткий промежуток времени к взрывному росту. Гиф в низу хороши иллюстрирует этот процесс:

Источник ^[14]

2. То что касается программного обеспечения, развитие может казаться медленным, но одно открытие может резко изменить ситуацию (подобно тому, как наука топталась на месте, пытаясь описать движение небесных тел в геоцентрической системе, но когда люди взяли за основу гелиоцентрическую систему мира, всё стало на много легче). Так же и с саморазвивающимся компьютером. Ещё вчера казалось, что он очень далёк от создания сильного ИИ, но одна “мутация” в его программном обеспечении может сделать его в 1000 раз эффективнее, и вот он уже на пороге человеческого уровня разума.

Путь от Сильного ИИ к Сверхразуму
Когда мы достигнем ИИ человеческого уровня, то мы будем жить с ними в мире и равенстве.

Конечно же нет.

Сильный ИИ с тем же уровнем разума что и человек, на самом деле имеет огромные преимущества:

Аппаратное обеспечение:

• Скорость. Частота работы наших нейронов примерно 200 Гц, в то время как современные процессоры работают на 2 ГГц, то есть в 10 миллионов раз быстрее чем наши нейроны, а ведь к тому времени когда мы получим сильный ИИ, эта цифра будет ещё внушительнее. Передача данных между нейронами равна примерно 120 м/с что не идёт ни в какое сравнение с оптоволокном, способным передавать данные со скоростью света.

• Размер и память. Мозг ^[3] ограничен размером черепа, он никогда не будет на много больше чем сегодня, при скорости передачи 120 м/с сигналы между далёкими друг от друга отделами мозга ^[3] будет передаваться слишком долго. У компьютеров же нет такого ограничения, они могут быть практически любого размера и иметь в своём арсенале куда больше вычислительной мощности. Это же справедливо и для памяти, как оперативной, так и для физической.

• Надёжность. И дело не только в том, что память компьютеров гораздо точнее человеческой. Транзисторы гораздо точнее, чем нейроны, и у них гораздо меньше шансов на деградацию (их легко заменить). Мозг ^[3] быстро устаёт, в то время как компьютеры могут работать 24/7.

Программное обеспечение:

• Возможность обновления и масштабирования. В отличие от человеческого мозга ^[3], программное обеспечение компьютера легко обновлять и модифицировать. В то же время программы можно улучшать и в тех областях, в которых человеческий мозг ^[3] имеет не такие уж и хорошие способности. Зрение человека является очень продвинутой и слаженной системой, но в то же время математические способности мозга ^[3] оставляют желать лучшего. Компьютеры могут сравняться с человеком в том что касается зрения, но при этом получить более оптимизированные математические способности или более продвинутые способности в любой другой сфере.

• Человечество обошло все другие виды животных в том, что касается взаимодействия между отдельными индивидами. Это началось с создания языка и формирования крупных общин, потом эта способность была усилена изобретением письменности и печати и в недавнее время, с развитием интернета, получила огромный толчок в своём развитии. И именно благодаря нашему коллективному интеллекту мы смогли так далеко уйти по уровню развития от всех других видов животных. Компьютеры же в свою очередь обойдут нас в этом. Благодаря интернету, ИИ смогут синхронизировать свои знания, и таким образом каждый из них будет иметь доступ ко всем знаниям, полученным любым из ИИ. Так же они смогут эффективнее людей работать над одной задачей, так как у них не будет конфликта интересов, плохого настроения, проблем с мотивацией и других проблем, свойственных человеку. ИИ, который сможет достичь человеческого уровня через самопрограммирование, будет смотреть на “человеческий уровень интеллекта” не более чем как на важную веху своего развития, и, конечно же, ничто не заставит его остановиться на это уровне, он проскочит его и будет огромными прыжками увеличивать свои “умственные способности”, используя весь арсенал своих преимуществ перед человеком. И рано или поздно станет искусственным Сверхразумом.

И это конечно испугает человечество, и на то есть причины, А) Мы знаем всех животных населяющих Землю и понимаем уровень их интеллекта именно потому, что их уровень гораздо ниже нашего и Б) Умный человек нам кажется на порядок умнее глупого человека, мы видим это примерно таким образом:

Когда ИИ будет развиваться, мы увидим что он становится достаточно смышлёным для животного. Потом, как только он достигнет нижней границы человеческого интеллекта, Ник Бостром называет это “уровнем деревенского дурачка”, мы будем думать “ой, как мило, он же как деревенский дурачок”. Тут есть одна ошибка. С точки зрения развития разума, весь спектр человеческого интеллекта, от деревенского дурачка до Эйнштейна, занимает очень меленький промежуток, то есть сразу после достижения уровня человеческого дурачка и получения звания ИИ человеческого уровня, наш ИИ неожиданно и очень быстро станет умнее Эйнштейна, и мы даже не представляем, где могут быть границы его развития.

Что же будет дальше?

Взрывное развитие ИИ

С этого момента статья становится довольно страшной, надеюсь вам понравилась “нормальная” часть статьи. Хочу предупредить вас о том, что то что я буду рассказывать дальше не научная фантастика и не страшилка, а вполне реальные прогнозы большого количества ученых. Просто помните это, пока будете читать заключительную часть статьи.

Как было сказано выше, большая часть методов создания сильного ИИ предполагает саморазвитие ИИ до этого уровня. И даже если сильный ИИ будет создан другим способом, с его стороны будет достаточно глупо не заняться саморазвитием. И здесь мы приходим к тому, что называется рекурсивным самосовершенствованием. Это произойдёт примерно так:

Развитие до нижней границы человеческого уровня разума займёт у ИИ десятилетия. Компьютер будет понимать окружающий его мир примерно так же как 4-х летний ребёнок. Потом, неожиданно, примерно через час, система выдаст Теорию великого объединения, которая объединит в себе общую теорию относительности и квантовую механику, то есть сделает то, на что не способен ни один человек. 90 минут спустя ИИ станет искусственным Сверхразумом в 170 000 раз умнее человека.

Сверхразум такой силы будет для нас на столь же непостижим, как для шмеля Кейнсианство. В нашем мире быть умным значит иметь IQ выше 130, быть глупым значит иметь IQ порядка 85, у нас даже нет названия для IQ 12 952.

Залог доминирования человека на планете лежит в его относительной разумности в сравнении с другими живыми существами. С того момента, как мы создадим искусственный Сверхразум, он станет самым могущественным “существом” на нашей планете, и всё живое и даже само существование жизни будет полностью зависеть от прихоти этого Сверхразума.

И если человечество с его скудным умом смогло изобрести WI-FI, то для столь умного “существа” вряд ли будет проблемой управлять всеми атомами и их движением как ему заблагорассудится. Всё что мы считали магией, любые сверх способности, которые мы когда-либо приписывали любому из самых могущественных богов, будут в его распоряжении. Всё, о чем мы когда-либо могли мечтать: излечение любых болезней, победа над голодом или даже самой смертью, управление погодой для защиты жизни на земле, всё это станет возможным. Настолько же возможным, насколько и полное уничтожение жизни на земле. Когда мы создадим этот Сверхразум, ему не будет равных на планете, и останется лишь один вопрос: Будет ли он добрым?

Автор: Kh_artem

Источник ^[15]