- PVSM.RU - https://www.pvsm.ru -
Начнём с провокации: я не верю, что искуственный интеллект будет создан в обозримом будущем; то, что сейчас принято называть искусственным интеллектом, не имеет ничего общего с настоящим интеллектом.
Нет, я не специалист по ИИ — моё знакомство с ним ограничено почитыванием статей на Хабре и поигрыванием в компьютерные игрушки. Зато я много интересуюсь интеллектом настоящим — см. трилогию «Как на самом деле работает мозг» [1], «Зачем на самом деле нужен мозг» [2] и «Порнография с точки зрения эволюционной психологии» [3].
В этой статье я попытаюсь объяснить, почему концепция ИИ в том виде, в котором мы её наблюдаем, никогда не приведёт к созданию настоящего искусственного интеллекта.
Начнем с самого начала — что такое жизнь с точки зрения информатики? Это управляющий процесс, т.е. такой процесс, при котором передача по определенным каналам небольших количеств энергии или вещества влечет за собой действия, заключающиеся в преобразовании значительно больших количеств энергии или вещества (см. И.С.Шкловский, «Вселенная. Жизнь. Разум.»).
Т.о. есть некоторая короткая «программа» (если говорить о простейших живых существах — то это просто спираль ДНК), которая отвечает на внешние воздействия.
Казалось бы, это очень похоже на определение обычной компьютерной программы; на самом деле это не так. В отличие от ЭВМ, живой организм получает на вход не требуемые данные, а гигантский неструктурированный поток информации, который заведомо на много порядков превышает те объёмы информации, которые способен обработать живой организм.
Генетическая программа — это не алгоритм в стандартном понимании этого слова.
Попробую привести пример. Я думаю, многие из присутствующих решали олимпиадные задачи по программированию и часто сталкивались с ситуацией, что решение в принципе работает, но где-то на последнем неизвестном тесте валится — не хватает времени, что-то не учли и т.п. Если у задачи не много вариантов ответа (особенно, если нужно просто ответить да или нет), то можно попытаться её сдать, просто подобрав ответ на последний тест.
Вот именно так и работает генетический управляющий процесс: он подбирает ответы под входящие условия, а не решает задачи. Организмы, которые отвечают чуть лучше — выживают и размножаются.
Это «решение» принципиально не заточено ни под какие нестандартные и вырожденные ситуации — оно просто как-то более-менее хорошо работает в стандартном окружении.
И да, когда живые существа обзавелись нервной системой и «оперативной памятью», подход ничуть не изменился.
Помните задачку про биту и мяч [4]? Ответ «один доллар», который даёт подавляющее большинство, — он как раз отлично демонстрирует этот подход к решению задач. Плевать, что он нелогичный и работает только в простых ситуациях — зато он даёт быстрый ответ с хорошей точностью.
Это первая ключевая особенность настоящего интеллекта: он никогда не решает задачи в смысле нахождения верного алгоритма; он просто находит максимально простой способ получить ответ в большинстве ситуаций, не разбираясь в предметной области и не пытаясь как-то логически обосновать свои действия.
Кстати, ровно поэтому ИИ будет совершенно бесполезен как дающий безошибочные советы помощник: выбирайте — либо интеллект, либо безошибочность.
Но это ещё не всё, у наших с вами «программ» есть и другие интересные особенности.
Чем хороша позиционная система счисления? Позволяет записывать числа коротко. Действительно, написать «12» проще, чем «111111111111», да и читать как-то удобно.
А чем она плоха? Она помехонеустойчива. Если в позиционной записи числа изменить один знак, то можно получить очень далёкое от первоначального значения. А вот если мы каждое число пишем в виде «n единиц», то помехи на линии не смогут серьёзно изменить значение этого числа.
Теперь представьте, что мы разработали помехоустойчивый программный код. Т.е. изменил один символ в команде mov ax,dx — получил что-то очень похожее.
Для программистов это должно звучать как полный бред — тем не менее, именно так и устроены генетические программные коды. Они устойчивы к ошибкам копирования — измененная на пару символов программа всё равно работает примерно так же — а может, даже чуть лучше, и тогда ошибка закрепится в генофонде.
Это вторая ключевая особенность настоящего интеллекта: его алгоритмы устойчивы к изменениям.
Представьте теперь, что мы имеем какой-то пул генетических программ, которые представляют собой очень простой, но рабочий набор случайных команд. Над этими программами осуществляется жесточайший отбор, в результате которого выживают и размножаются наиболее хорошо реагируюшие на гигантский поток входных данных программы.
При этом новые инструкции появляются очень ограниченно, в результате случайного удвоения фрагмента кода при копировании.
Что в итоге будет представлять собой выжившая программа? Феерический набор говнокода, в котором каждая строчка будет использована по максимуму десятки различных функций. Одна радость — этот говнокод мэйнтейнит сам себя, со временем разрастаясь в гигантского монстра из многих миллиардов строк кода неизвестного назначения.
Каждый ген может кодировать (и часто кодирует) множество иногда совершенно независимых признаков. При этом можно легко столкнуться с ситуацией, что попытка модифицировать код, чтобы изменить какой-то один конкретный признак, приведёт к множеству неконтролируемых изменений в других признаках.
Схожая ситуация наблюдается, например, в нейронах
Это третья ключевая особенность настоящего интеллекта: его алгоритмы активно используют фрагменты других алгоритмов, часто — просто по случайному стечению обстоятельств и без всякой на то нужды.
Ричард Докинз в «Эгоистичном гене» предположил (и я склонен считать это предположение верным), что сознание — это феномен, возникающий в результате включения
Зачем появилась такая способность, каков её эволюционный смысл? Наши далёкие предки несколько миллионов лет назад оказались в ситуации, когда только действия организованной группой помогли им выжить во враждебной среде. Абсолютное большинство изменений, которые претерпел род homo за последние 2 (а то и больше) миллиона лет — включая развитие новой коры головного
Очевидно, что самосознание в докинзовом смысле даёт гигантские преимущества именно в социальной деятельности: индивид может предсказывать действия окружающих руководствуясь знанием о том, как он сам бы поступил в данной ситуации.
Поэтому для человека абсолютно естественно «очеловечивать», наделять сознанием и волей не только других людей, но и предметы и явления окружающей среды. То, что это не работает, не имеет предсказательной силы — неважно; плюсы от социальной адаптации перевешивают минусы от нелепых ритуалов и прочего огнепоклонства.
И это четвёртая особенность настоящего интеллекта: он заточен под определение повадок самого себя, а всё остальное — вторично.
Абстрактное
Когда человек создавал машины и приспособления — в том числе, ЭВМ — он пытался, прежде всего, компенсировать пробелы в собственных способностях.
Например, человеку очень трудно оперировать точными цифрами —
Человеку трудно оперировать абстрактными величинами. Как только размер величины уходит из категории «можно прикинуть на глаз», человек уже не может ей эффективно оперировать.
Человеку очень трудно выполнять монотонные, однообразные алгоритмы —
ЭВМ позволяет все эти проблемы решить — оперировать точными величинами и выполнять однообразные действия. Таким образом, ЭВМ органично дополняет человека — если хотите, это, практически, симбиоз: машина умеет выполнять алгоритмы, а человек — писать алгоритмы.
Но, построив машину на принципах, диаметрально противоположных устойству собственного интеллекта, ждать теперь от машины проявления этого интеллекта — в высшей степени наивно и бессмысленно. ЭВМ в чистом виде НИКОГДА не станет искуственным интеллектом, сколько бы там ни было процессорных ядер, оперативной памяти и строк кода.
Сегодняшние попытки написания ИИ сводятся, фактически, к следующему предложению: а давайте теперь с помощью ЭВМ моделировать нечеткую логику (в широком смысле) поведения различных органических структур.
Даже оставим за скобками чудовищную неэффективность такого решения и положим, что нам удастся добиться достаточной вычислительной мощности. По факту, методы и модели современного ИИ — это какие-то робкие шаги и попытки косплеить живой организм на уровне генов и нейронов. До концепций более высокого уровня — устойчивого и реиспользуемого программного кода и социального самосознания — современному ИИ как до Луны.
Но, ещё раз допустим, мы смоделируем весь сложный путь развития
Вот именно поэтому я и не верю в какое-то светлое будущее искусственного интеллекта.
Автор: forgotten
Сайт-источник PVSM.RU: https://www.pvsm.ru
Путь до страницы источника: https://www.pvsm.ru/iskusstvenny-j-intellekt/10444
Ссылки в тексте:
[1] «Как на самом деле работает мозг»: http://habrahabr.ru/post/95438/
[2] «Зачем на самом деле нужен мозг»: http://habrahabr.ru/post/111707/
[3] «Порнография с точки зрения эволюционной психологии»: http://habrahabr.ru/post/118792/
[4] задачку про биту и мяч: http://habrahabr.ru/post/145733/
[5] мозга: http://www.braintools.ru
Нажмите здесь для печати.