- PVSM.RU - https://www.pvsm.ru -
Говорят, что в будущем ИИ станут настолько умнее, что лишат нас работы, потом ресурсов, и люди вымрут. Так ли это? Под катом интересное мнение Кевина Келли [1]. Если у вас все хорошо с английским, то оригинал публикации вы сможете найти тут [2].
Сегодня этот вопрос можно услышать от самых разных людей. Их беспокойство отчасти разделяется некоторыми экспертами. Среди обеспокоенных — ярчайшие люди нашего времени, вроде Стивена Хокинга, Элона Маска, Макса Тегмарка, Сэма Харриса и Билла Гейтса. Они верят, что подобный негативный сценарий будущего очень вероятен. На одной из недавних конференций, в ходе панельной дискуссии девяти наиболее просвещённых в сфере ИИ гуру [3], все участники согласились с тем, что возникновение сверхчеловеческого ИИ неизбежно, и это дело скорого времени.
Однако в этом сценарии спрятано пять предположений, которые, если присмотреться к ним внимательнее, не имеют под собой каких-либо доказательств. В будущем эти утверждения могут стать справедливы, но сегодня они ничем не подкрепляются.
1. Искусственный интеллект уже становится умнее нас, причём растёт в геометрической прогрессии.
2. Мы превратим ИИ в универсальный интеллект, как наш собственный.
3. Мы можем реализовать в кремнии аналог человеческого интеллекта.
4. Интеллект может расти без ограничений.
5. Как только мы получим суперинтеллект, развивающийся со взрывной скоростью, то он сможет решить большинство наших проблем.
В противовес этим господствующим утверждениям можно привести пять ересей, которые сегодня выглядят более обоснованно.
1. Интеллект не является одномерным, то есть «умнее человека» является бессмысленной концепцией.
2. Человеческий разум не является универсальным интеллектом, и ИИ тоже ими не будут.
3. Эмуляция человеческого
4. Размеры интеллекта не безграничны.
5. Интеллекты — лишь один из факторов прогресса.
Если ожидание господства сверхчеловеческого ИИ базируется на пяти ключевых предположениях, не подкреплённых доказательствами, то эта идея больше похожа не религиозное верование — миф. В этой статье будут рассмотрены доказательства пяти вышеприведённых контр-предположений, и показано, что сверхчеловеческий ИИ — это миф.
Наиболее распространённое заблуждение, связанное с ИИ, начинается с распространённого заблуждения относительно естественного интеллекта. Оно заключается в том, что интеллект — одномерен. Большинство технарей отображают интеллект так, как это сделал Ник Бостром [5] в своей книге «Superintelligence» — как одномерный линейный график с возрастающей амплитудой. На одном его конце низкий интеллект, например, небольшого животного; на другом конце высокий интеллект, скажем, гения. Словно интеллект — это уровень громкости звука в децибелах. Конечно, после такого очень легко представить себе рост «громкости», когда интеллект в конце концов достигает нашего уровня, а затем становится ещё «громче» — рёв! — оставляя нас далеко позади, возможно, вообще пробивая потолок.
Эта модель топологически эквивалентна лестнице, у которой каждая ступень интеллекта на шаг выше предыдущей. Младшие животные располагаются ниже нас, а высокоуровневые ИИ неизбежно окажутся на более высоких ступенях. Не столь важно, когда это произойдёт, важно само ранжирование — метрика увеличения интеллекта.
Недостаток этой модели в том, что она мифична, как лестница эволюции. До Дарвина природный мир представлялся лестницей бытия, где младшие животные располагались ниже человека. И даже в постдарвиновскую эру очень часто можно услышать про «лестницу» эволюции, когда рыба эволюционирует в рептилию, затем делает шаг и становится млекопитающим, затем превращается в примата, в человека, на каждом этапе всё больше развиваясь (и, конечно, становясь умнее). Таким образом, лестница интеллекта параллельна лестнице бытия.
Более точная схема естественной эволюции видов — это диск, расходящийся из центра вовне. Вроде представленного выше, придуманного Дэвидом Хиллисом из Техасского университета на основе информации из ДНК. В центре этой генеалогической ма̒ндалы — самые примитивные формы жизни, которые развивались вовне с течением времени. Живущие сегодня на планете виды формируют периметр окружности. Эта иллюстрация подчёркивает такой аспект эволюции, который нам трудно принять: все живущие сегодня виды развиты одинаково. Вместе с людьми на этом периметре находятся тараканы, моллюски, папоротники и бактерии. За плечами каждого из видов — единая, непрерывная цепь успешного воспроизведения длительностью три миллиарда лет. То есть все живые существа столь же высокоразвиты, как и человек. И нет никакой лестницы.
Точно так же нет никакой лестницы интеллекта. Интеллект не одномерен. Это сочетание многочисленных типов и режимов процесса познания, каждый из которых является континуумом. Возьмём простейшую задачу измерения интеллекта животных. Если бы интеллект был одномерным, то мы могли бы в соответствующем порядке разместить на шкале интеллекты попугая, дельфина, лошади, белки, осьминога, кита, кошки и гориллы. Но сегодня у нас нет доказательств возможности существования такой шкалы. Одной из причин может быть то, что между интеллектами животных не существует разницы, но мы и этого не знаем. Зоологам известно множество важных отличий между способами
Вместо «уровня децибел» более точной моделью интеллекта будет график его пространства возможностей [6], вроде приведённой выше иллюстрации. На ней изображены возможные формы, созданные алгоритмом, который написан Ричардом Докинзом (Richard Dawkins).
Интеллект — это комбинаторный континуум. Множество узлов, каждый из которых является континуумом, создают широкое разнообразие многомерных совокупностей. Некоторые интеллекты могут быть очень сложны, с многочисленными ответвлениями
Человеческие разумы — это сообщество разумов, если выражаться словами Марвина Мински (Marvin Minsky). Мы обитаем в экосистемах
Эти наборы познаний у разных видов разные, и отличаются даже у конкретных существ в рамках одного вида. Белка может годами помнить местонахождение нескольких тысяч желудей, — подвиг, от которого спятит любой человек. Так что в этом конкретном типе познания белка превосходит человека. Эта суперспособность, объединённая с некоторыми другими режимами, уступающими возможностям человека, и формирует разум белки. В мире животных существует множество других специфических познаний, в которых люди сильно уступают, также объединённых в разные системы.
То же самое и с ИИ. Искусственные разумы в некоторых измерениях уже превосходят человека. Ваш калькулятор — гений математики. Память Google уже во многом оставляет нас позади. Мы создаём ИИ, чтобы достигать превосходства в определённых режимах. В каких-то из режимов мы и сами можем что-то делать, но искусственный интеллект делает это лучше, например, расчёт вероятностей или арифметические вычисления. Другие типы
В других случаях новые разумы будут представлять собой сложные типы познания, которые можно будет использовать для решения проблем, которые неподвластны одному лишь нашему интеллекту. Например, труднейшие проблемы бизнеса и науки могут потребовать двухэтапного решения.
Поскольку мы будем решать проблемы, которые ранее были нерешаемы, то захотим считать это познание «умнее» нас, но на самом деле оно просто отличается от нашего. Главное преимущество ИИ как раз заключается в непохожести его
В то же время мы интегрируем различные режимы познания в боле сложные совокупности разумов. Некоторые из них будут сложнее нашего разума. А поскольку они будут способны решать проблемы, которые не смогли решить мы сами, то кто-то захочет назвать их «сверхчеловеческими». Но мы же не зовём Google сверхчеловеческим ИИ, даже хотя его память обширнее, чем у любого из нас. Зато мы можем делать многое другое гораздо лучше. Эти совокупности искусственных интеллектов превзойдут нас во многих измерениях, но ни одна из них не сможет превзойти нас во всём. Это как физическая сила людей. Промышленная революция произошла 200 лет назад, и хотя все эти машины превосходят физические возможности отдельного человека (скорость движения, поднимаемый вес, точность реза и так далее), не существует ни одной машины, способной превзойти человека во всём, что он или она делает.
Хотя совокупность ИИ-разумов будет становиться всё сложнее, на данный момент с научной точки зрения эту сложность трудно измерить. У нас нет хороших операционных метрик сложности, позволяющих научно определить, что огурец сложнее Боинга 747, или каковы могут быть различия в сложности. Это одна из причин, почему у нас до сих пор нет подходящих метрик умности. И будет крайне трудно утверждать, что разум А сложнее разума Б, и сделать вывод, что А умнее Б. Скоро мы придём к очевидному пониманию, что «умность» — не одномерна, и что куда важнее многочисленные способы работы интеллекта — все иные узлы познания, которые мы ещё не открыли.
Второе заблуждение относительно человеческого интеллекта — это наша вера, что мы имеем универсальный разум. Это повторяемое всеми заблуждение привело к тому, основной целью исследования ИИ заявлено создание универсального искусственного интеллекта. Но если рассматривать интеллект как большое пространство возможностей, то окажется, что не существует его универсального состояния. Человеческий интеллект не является центром, вокруг которого вращаются другие специализированные интеллекты. На самом деле наш интеллект является очень, очень специфическим типом интеллекта, который развивался многие миллионы лет, чтобы позволить нашему виду выжить на этой планете. Если создать карту всех возможные интеллектов, то человеческий окажется где-то в углу, как и наша планета болтается на окраинах обширной галактики.
Конечно, мы можем вообразить, и даже изобрести, универсальный, как швейцарский нож, тип
Вера в максимально универсальное
Начало теории таково: «Учитывая бесконечную ленту [память] и время, все вычисления эквивалентны». Проблема в том, что в реальности ни один компьютер не обладает бесконечной памятью или временем. В реальном мире время играет огромную роль, зачастую этой вопрос жизни и смерти. Да, если не учитывать время, то все виды
То есть можно заявить, что единственный способ получить процесс
Как упоминалось выше, мы мыслим не только
Это можно считать не багом, а фичей. Как уже говорилось, отличие в
В основе понятия сверхчеловеческого интеллекта — особенно точки зрения, что этот интеллект будет самосовершенствоваться, — лежит вера в неограниченность масштабирования интеллекта. Но этому нет доказательств. Науке неизвестны какие-либо физические измерения во Вселенной, являющиеся бесконечными. Температура не бесконечна — в обе стороны. Конечны время и пространство. Конечна скорость. Возможно, количество чисел бесконечно, но все остальные физические атрибуты — конечны. Есть все основания считать, что и разум конечен. Возникает вопрос — а где же предел интеллекта. Мы склонны верить, что граница находится далеко за пределами нашего разума, гораздо «выше» нас, раз уж мы сами «выше» муравья. Если отвлечься от хронической проблемы одномерности, то где доказательства того, что мы сами не являемся верхней границей интеллекта? Почему наш разум не может быть максимальным? Или, быть может, граница совсем недалеко от нас? Почему верим, что интеллект может расширяться вечно?
Давайте лучше представим наш интеллект как один из миллиона типов возможных интеллектов [8]. Если каждое измерение познания и вычислений имеет предел, если существуют сотни измерений, то мы получаем неисчислимое разнообразие разумов — но ни один из них не является бесконечным в каком-либо измерении. Если мы создадим или подсчитаем это неисчислимое разнообразие разумов, то, само собой, можем посчитать некоторые из них превосходящими нас.
Например:
Идём далее. Верующие в сверхчеловеческий ИИ предполагают, что интеллект будет возрастать в геометрической прогрессии (по какому-то неопределённому отдельному показателю). Вероятно, причина в том, что они полагают, будто он уже растёт с такой динамичностью. Однако нет никаких доказательств, что интеллект — не важно, как вы это измеряете — растёт по экспоненте. Под этим я подразумеваю удвоение мощи с каким-то регулярным интервалом. Где доказательства? Их нет. А если этого нет сейчас, то почему мы должны предполагать, что скоро это произойдёт? Единственная вещь, растущая экспоненциально, это входные данные для ИИ, ресурсы, предназначенные для генерирования умности или интеллектуальности. Но рост выходной производительности не подчиняется закону Мура. ИИ не становится вдвое умнее каждые три года, или даже каждые 10 лет.
Я опросил многих экспертов в сфере ИИ, есть ли у них доказательства того, что производительность интеллекта растёт по экспоненте, и все согласились с тем, что не существует метрик для интеллекта. Да его и нельзя измерить таким образом. Когда я спросил Рея Курцвейла (Ray Kurzweil), где доказательства экспоненциального развития ИИ, он написал мне, что ИИ развивается не взрывным образом, а по уровням. Он сказал: «Он экспоненциально улучшает вычислительную и алгоритмическую сложности и добавляет следующий уровень к иерархии … Так что мы можем ожидать линейного добавления уровней, потому что каждый новый уровень требует экспоненциального увеличения сложности. А наша способность увеличивать сложность действительно растёт экспоненциально. Осталось не так много уровней, когда мы сможем узнать возможности искусственного
Похоже, Рей говорит, что экспоненциально растёт не мощь ИИ, а усилия по его созданию, в то время как выходная производительность просто поднимается по уровню за раз. Это практически противоречит предположению о взрывном росте интеллекта. Возможно, в будущем ситуация изменится, но сейчас ИИ однозначно не растёт экспоненциально.
Следовательно, когда мы представляем себе «интеллектуальный взрыв», то должны представлять его не как каскадный взрыв, а как «листопад» множества новых видов. Результатом ускорения технологий наверняка станет не сверхчеловеческий, а экстрачеловеческий разум. Его возможности будут за границами нашего опыта, но не обязательно «выше» нас.
Ещё одно неоспоримое убеждение, связанное с господством ИИ, заключается в том, что почти безграничный сверхинтеллект сможет быстро решить наши главные неразрешимые проблемы.
Многие сторонники взрывного развития интеллекта считают, что это приведёт и к взрывному прогрессу. Это мифическое убеждение можно назвать «мышлинизмом». Это заблуждение о том, что дальнейшему прогрессу мешает лишь нехватка мощи интеллекта. Можно ещё отметить, что вера в то, что
Возьмём лечение рака или продление жизни. Эти проблемы не решить одними лишь размышлениями. Никакое количество мышлинизма не поможет понять, как стареют клетки, или как отпадают теломеры. Никакой интеллект, неважно, насколько он супер-пупер, не сможет вычислить, как работает человеческое тело, просто прочитав всю известную научную литературу в мире и хорошенько над ней поразмыслив. Никакой супер-ИИ не сможет просто поразмышлять над всем текущими прошлыми экспериментами по ядерному делению и за день придумать технологию получения ядерной энергии. Нужно гораздо больше, чем
Несомненно, искусственный сверхинтеллект может ускорить развитие науки. Мы сможем выполнять компьютерное моделирование атомов или клеток, ускорять изменение многих параметров. Но польза моделирования для мгновенного достижения прогресса ограничена двумя факторами:
1. Симуляции и модели могут быть быстрее оригиналов только тогда, когда они что-то отбрасывают. Такова их природа.
2. Тестирование, проверка и доказательство моделей должны занимать календарное время, соответствующее скорости протекания/жизни оригиналов. Нельзя ускорить проверку экспериментальных данных.
Использование в симуляциях таких упрощённых версий полезно для отсеивания наиболее многообещающих частей, которые могут ускорить прогресс. Но в реальности нет ничего лишнего. В реальности всё играет какую-то роль, таково одно из определений реальности. Если скармливать моделям и симуляциям всё больше и больше данных, то придём к тому, что они будут работать медленнее, чем реальные процессы, которые мы моделируем. Другое определение реальности: наиболее быстрая возможная версия всех имеющихся подробностей и степеней свободы. Если бы можно было смоделировать все молекулы клетки и все клетки человеческого тела, то такая симуляция не будет работать быстрее самого тела. И не важно, как много об этом думаешь — тебе нужно ещё время для проведения экспериментов, не важно, в реальных или виртуальных системах.
Чтобы быть полезными, искусственные интеллекты должны быть встроены в мир, а этот мир часто устанавливает свой темп инноваций. Без проведения экспериментов, создания прототипов, провалов и борьбы, интеллект может размышлять, но безрезультатно. Когда появится так называемый «ИИ умнее человека», то он не будет сразу генерировать открытия за минуту, за час, за день или за год. Конечно, с развитием ИИ частота открытий заметно повысится, отчасти потому, что непохожий на нас разум будет задавать вопросы, на которые не сможет ответить ни один человек. Но даже чрезвычайно сильный (по сравнению с нами) интеллект не приведёт к моментальному прогрессу. Для решения проблем нужно гораздо больше, чем один лишь интеллект.
Сам по себе ИИ не сможет решить проблемы не только рака и долгожительства, но и проблему самого интеллекта. Среди адептов сингулярности популярна метафора, что когда мы создадим ИИ «умнее человека», тогда он вдруг поднапряжётся и придумает ИИ «умнее самого себя», который тоже поднапряжётся и изобретёт ещё более умный ИИ, и так далее, пока не появится богоподобный интеллект. У нас не доказательств тому, что одного лишь размышления об интеллекте достаточно для создания интеллекта нового уровня. Подобный мышлинизм — это верование. Есть много доказательств, что для создания новых типов успешных разумов в дополнение к большому объёму интеллекта нужны эксперименты, данные, метод проб и ошибок, и прочие вещи помимо умности.
Конечно, эта точка зрения может быть ошибочной. Мы ещё в начале пути. Мы можем открыть какую-то универсальную метрику для интеллекта. Мы можем открыть бесконечность во всех направлениях. Поскольку мы так мало знаем о том, что такое интеллект (не говоря уж о сознании), возможность некой ИИ-сингулярности всё-таки больше нуля. Согласно всем доказательствам, такой сценарий очень маловероятен, но всё же вероятность его не нулевая.
И хотя можно не верить в вероятность сингулярности, но можно согласиться с членами OpenAI и многими умными людьми, которых беспокоит тема сверхчеловеческого ИИ. Мы должны создать дружелюбные ИИ и придумать, как привить им ценности самовоспроизведения, соответствующие нашим. И хотя сверхчеловеческий ИИ может быть отдалённой возможной экзистенциальной угрозой, учёные, политики и разработчики не должны ориентироваться на её вероятность (базирующуюся на имеющихся сегодня доказательствах). Падение крупного астероида на Землю будет катастрофическим. Вероятность этого больше нуля, но мы не должны позволять её влиять на наши усилия, скажем, в изменении климата, космических путешествиях или планировании городов.
Согласно имеющимся доказательствам, ИИ наверняка будут не «сверхлюдьми», а многочисленными новыми видами «экстралюдей», сильно отличающимися от нас. Ни один из них не будет универсальным, и не один не сможет божественным образом решить во плоти наши основные проблемы. Скорее, мы получим целую галактику интеллектов, работающих в неизвестных измерениях, во многих из них превосходящих нас, совместно трудящихся с нами над решением существующих и созданием новых проблем.
Вполне можно понять изумительное притяжение идеи сверхчеловеческого ИИ-бога. Это как новый Супермен. Но как и супергерой, это мифический персонаж. Возможно, где-то во Вселенной Супермен и существует, но это очень маловероятно. Однако мифы могут быть полезны, и однажды возникшие, они не исчезают. Супермен никогда не умрёт. Идея сверхчеловеческой ИИ-сингулярности тоже не исчезнет. Но нужно понимать, что, на данный момент, это религиозная ненаучная идея. Если изучить имеющиеся сведения об интеллекте, искусственном и естественном, то можно прийти лишь к заключению, что наши спекуляции о сверхчеловеческой ИИ-боге — просто миф.
Население многих изолированных островов Микронезии впервые познакомилось с внешним миром только во время Второй мировой войны. Боги-пришельцы прилетели с небес на шумных птицах, сбросили еду и вещи, и больше не вернулись. Но островах возникли религиозные культы, верующие молились, чтобы боги вернулись и сбросили ещё. Даже спустя более чем 50 лет многие из жителей островов ждут богов с небес. Вероятно, что сверхчеловеческий ИИ обернётся в ещё один культ карго. Столетие спустя люди будут думать о нашем времени как о моменте появления верующих, ожидающих пришествия сверхчеловеческого ИИ, который принесёт им невообразимые блага. Десятилетия они ждут его появления, уверенные, что он скоро должен появиться со своими дарами.
Но пока не существует никакого сверхчеловеческого искусственного интеллекта. Мы продолжаем его пересматривать и усложнять. Но в более широком понимании, чуждые нам разумы — из огромного спектра умности, интеллектуальности, способности к познанию, логическому
Автор: Parallels
Источник [9]
Сайт-источник PVSM.RU: https://www.pvsm.ru
Путь до страницы источника: https://www.pvsm.ru/ii/255825
Ссылки в тексте:
[1] Кевина Келли: https://medium.com/@kevin2kelly_95328
[2] тут: https://backchannel.com/the-myth-of-a-superhuman-ai-59282b686c62
[3] панельной дискуссии девяти наиболее просвещённых в сфере ИИ гуру: https://www.youtube.com/watch?v=h0962biiZa4&t=3121s
[4] мышления: http://www.braintools.ru
[5] это сделал Ник Бостром: http://4.bp.blogspot.com/-w6UlXLKHMFw/UK27LcKTDiI/AAAAAAAAMT4/ktGM8q4I4-M/s1600/scale_of_intelligence.png
[6] пространства возможностей: https://s3.amazonaws.com/corewebsite-media-uploads/CoreStudioWebsite/wp-content/uploads/20161109160617/Biomorph-Land.jpg
[7] тезис Чёрча—Тьюринга: https://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D0%B7%D0%B8%D1%81_%D0%A7%D1%91%D1%80%D1%87%D0%B0_%E2%80%94_%D0%A2%D1%8C%D1%8E%D1%80%D0%B8%D0%BD%D0%B3%D0%B0
[8] типов возможных интеллектов: https://aeon.co/essays/beyond-humans-what-other-kinds-of-minds-might-be-out-there
[9] Источник: https://habrahabr.ru/post/329164/?utm_source=habrahabr&utm_medium=rss&utm_campaign=best
Нажмите здесь для печати.