«Крестный отец ИИ»: Алан Тьюринг и его Intelligent Machinery

В январе 1947 года Тьюринг отправился в Америку в турне по ознакомлению с мейнфреймами с электронным хранилищем программ, а по возвращении 20 февраля 1947 года выступил с лекцией в Лондонском математическом обществе. В этот день в зале Королевского астрономического общества в Берлингтон-хаусе на улице Пикадилли в Лондоне он впервые публично рассказал о своем видении компьютерного интеллекта — «машинах, способных учиться на собственном опыте». 

Эта лекция под заголовком «Мыслящие машины» («Intelligent Machinery») в 1948 году была опубликована в «Отчетах Национальной физической лаборатории» и стоит того, чтобы прочесть ее в оригинале, а не в пересказе IT-историков и копирайтеров этих историков. Для этого не нужно быть математиком или IT-специалистом, да и текста там всего 20 журнальных страниц.

Если совсем коротко, то на этой лекции Алан Тьюринг сформулировал аксиому: «Человек, снабженный бумагой, карандашом, ластиком и подчиненный строгой дисциплине, по сути, является универсальной машиной». При дополнении ее обратным утверждением она превращалась в «теорему Тьюринга», и одно из возможных ее решений он тоже предложил (потом это решение назовут «тестом Тьюринга»). Сделал он это в 1948 году, а не тремя годами позже, как пишут про тест Тьюринга в учебниках, справочниках, энциклопедиях и многочисленных биографиях Тьюринга.

Алан Тьюринг прекрасно понимал, какую реакцию вызовет его лекция о том, что «машины, способные учиться на собственном опыте» имеют «такую же природу, как кора головного мозга новорожденного человека», что все дело в их — и младенца, и компьютера — обучаемости. Ведь «потенциальные возможности человеческого интеллекта могут быть реализованы только при наличии соответствующего образования». И точно так же машину можно обучить «с помощью поощрений и наказаний». 

Поэтому он начал лекцию с перечисления причин, которые могли бы привести его оппоненты в качестве аргументов невозможности самого существования мыслящих машин. «Нежелание допустить возможность того, что у человечества могут быть соперники по интеллектуальной мощи, — говорил Тьюринг, — встречается чаще среди интеллектуалов, им есть что терять. Но и те, кто допускает такую возможность, все согласны с тем, что ее реализация была бы очень неприятной. Такая же ситуация возникает в связи с возможностью вытеснения нас каким-либо другим видом животных. Это почти столь же неприятно, но ее теоретическая возможность неоспорима».

Далее Тьюринг перечисляет другие препоны принятия «мыслящей машины» как данности. Это «религиозная вера в то, что любая попытка сконструировать такие машины является своего рода прометеевской нереальностью», то есть естественным для человека нежеланием уступить свое место носителям более совершенного разума. Следующее препятствием считался «очень ограниченный характер оборудования, которое использовалось до недавнего времени (например, до 1940 года), что укрепляло веру в то, что машинное оборудование обязательно предназначено для выполнения чрезвычайно простых, повторяющихся работ… Природа машины заключается в том, чтобы делать одно и то же снова и снова, пока это продолжается».

Еще одно якобы непреодолимое препятствие для создания  мыслящей машины — это «недавняя теорема Гёделя и связанные с ней результаты (Гёдель 1931, Черч 1936, Тьюринг 1937), которые показали (тут Тьюринг говорит о себе в третьем лице), что если кто-то пытается использовать машины для таких целей, как определение истинности или ложности математических теорем, и не желает мириться со случайным неправильным результатом, то любая данная машина в некоторых случаях вообще не сможет дать ответ. А человеческий интеллект, по-видимому, способен находить методы со все возрастающей мощью для решения таких проблем». 

И наконец, убийственный для «мыслящих машин» аргумент: «В той мере, в какой машина может проявлять интеллект, ее следует рассматривать не что иное, как отражение интеллекта ее создателя».

После такого вступления остальная часть лекции Тьюринга посвящена опровержению по очереди всех этих возражений. Потом идут описания им машин, которые, по его мнению, могут быть обучаемые как младенец с чистым от жизненного опыта разумом с помощью программных «наказаний» («причинения боли») и «поощрений». «Электрические схемы, которые используются в электронных вычислительных машинах, по-видимому, обладают существенными свойствами нервов, — говорил Тьюринг. — Они способны передавать информацию с места на место, а также хранить ее. Безусловно, нерв имеет много преимуществ. Он чрезвычайно компактен, не изнашивается (вероятно, в течение сотен лет, если хранить в подходящей среде!) и имеет очень низкое энергопотребление. На фоне этих преимуществ электронные схемы имеют только одно противовесное преимущество — скорость. Однако это преимущество настолько велико, что, возможно, перевешивает преимущества нерва».

Закончил свою лекцию Алан Тьюринг рассказом об эксперименте, который и был первым вариантом его впоследствии знаменитого теста: «Нетрудно запрограммировать даже очень простую машину, которая будет не очень плохо играть в шахматы. Теперь возьмем трех человек A, B, C. А и С должны быть довольно плохими шахматистами, B — оператором машины (для того, чтобы он мог работать с ней достаточно быстро, желательно, чтобы он был одновременно математиком и шахматистом.). Две комнаты используются с определенной договоренностью для передачи ходов, и игра ведется между C и либо A, либо машиной. C будет довольно сложно определить, с кем он играет данную партию. Это довольно идеализированная форма эксперимента, который я лично провел».

К этому можно добавить, что год спустя Алан Тьюринг вместе со своим товарищем еще со студенческих времен Дэвидом Чамперноуном написали первую в мире шахматную программу Turochamp, которая, однако, оказалась невыполнимой на мейнфреймах того времени. Только в 2012 году на конференции в Манчестерском университете, посвященной 100-летию со дня рождения Тьюринга, с Turochamp сыграл Гарри Каспаров (ныне иноагент) и выиграл на 16 ходу, тем самым дав возможность сформулировать определение «гроссмейстера по Тьюрингу». Выходило, что гроссмейстер — это человек, которого природа запрограммировала легко выигрывать в шахматы у мейнфреймов и играть на равных с шахматными суперкомпьютерами (начиная с 1990-х тот же Каспаров, Крамник и еще ряд гроссмейстеров уровня чемпиона мира то проигрывали, то выигрывали у появившихся тогда специализированным шахматных суперкомпьютеров).

Второй подход к проблеме машинного мышления Алан Тьюринг сделал в 1950 году в своей статье «Вычислительные машины и интеллект» («Computing Machinery and Intelligence») в журнале MIND («Разум»), который издавался в Оксфорде и был посвящен в основном проблемам психологии. В нем в 1877 году Чарлз Дарвин опубликовал «Биографический очерк одного ребенка», где он проследил развитие своего сына от рефлекторных актов новорожденного до появления эмоций и привязанностей в 4 месяца, метания в обидчика попавшихся под руку предметов в год и три месяца до первых проявления сочувствия к другому человеку в два года и три месяца. А в 1895 году Льюис Кэрролл опубликовал здесь аллегорическое эссе об основах математической логики «Что черепаха сказала Ахиллесу».

Эта статья Тьюринга мало чем отличается от его лекции 1947 года и по структуре, и по содержанию. Только на этот раз он начинает с «теста Тьюринга», а не заканчивает им. И в этом варианте его теста наблюдатель должен угадать не кто или что играет в шахматы — машина или человек, а кто или что отвечает на вопросы. Вопросы и ответы печатаются на машинке или передаются по телетайпу. Если наблюдатель не может точно сказать, кто ему отвечает — человек и компьютерная программа, это и есть доказательство машинного разума. 

Эта статья на 10 страниц больше публикации его лекции 1947 года, в ней вдвое больше возражений против машинного интеллекта и потом их критического разбора Тьюрингом. Но и в этот раз все эти возражения можно разделить на две группы: а) морально-этического свойства, мол, этого не может быть, потому что подрывает устои мироздания и грозит ужасными последствиями, и б) этого не может быть, потому что не может быть никогда с точки зрения науки.

Особняком стоит лишь возражение №9 — «Аргумент, основанный на экстрасенсорном восприятии». «Я предполагаю, что читатель знаком с идеей экстрасенсорного восприятия (ЭСВ) и с четырьмя его проявлениями, а именно: телепатией, ясновидением, предвидением и психокинезом, — пишет Тьюринг. — Эти тревожные явления, по-видимому, противоречат всем нашим привычным научным представлениям. Как бы нам хотелось их опровергнуть! К сожалению, статистические данные, по крайней мере в отношении телепатии, неумолимы… На мой взгляд, этот аргумент довольно убедителен. В ответ можно сказать, что многие научные теории, по-видимому, остаются работоспособными на практике, несмотря на противоречие с экстрасенсорным восприятием, и что на самом деле можно прекрасно жить, если забыть об этом. Это довольно слабое утешение, и есть опасения, что мышление — это как раз тот феномен, в котором экстрасенсорное восприятие может быть особенно уместно. …Если допустить существование телепатии, то необходимо будет ужесточить наше испытание. Ситуацию можно сравнить с той, которая возникла бы, если бы допрашивающий разговаривал сам с собой, а один из участников подслушивал, прижавшись ухом к стене. Помещение участников в “защищенную от телепатии комнату” удовлетворило бы всем требованиям».

Трудно сказать, всерьез ли Тьюринг считал телепатию помехой изучению мышления машин или это был своего рода реверанс в сторону редакции и читателей журнала MIND, которые в числе прочего любили читать про экстрасенсорику. Но как бы там ни было, это не добавило ничего нового в его теорию машинного разума. Далее он в своей статье опять рассматривает типы компьютеров, пригодных на роль мыслящих, отдавая предпочтение «особому типу машин, которые обычно называются "электронными компьютерами" или "цифровыми вычислительными машинами"». Сейчас звучит это трогательно, так и хочется сказать: «А какие еще бывают?» Потом он переходит к универсальным цифровым вычислительным машинам, которые лучше других подходят для мыслительной деятельности, но отличаются от мозга человека, который мыслит отнюдь не дискретно, как машина. И заканчивает статью главой о проблемах обучения машин мыслить, опять исходя из постулата, что до обучения они = аналог мозга новорожденного человека.

В самом конце статьи Алан Тьюринг пишет: «Мы можем надеяться, что со временем машины составят конкуренцию людям во всех чисто интеллектуальных областях. Но с какой из них лучше всего начать? Даже это трудное решение. Многие люди считают, что лучше всего подойдет такая абстрактная деятельность, как игра в шахматы (этим как раз и занялся Тьюринг вместе с Чамперноуном – Ред.). Можно также утверждать, что лучше всего снабдить машину самыми лучшими органами чувств (фотоэлементами, микрофонами – Ред.), какие только можно купить за деньги, а затем научить ее понимать английский язык и говорить на нем. Этот процесс может быть аналогичен обычному обучению ребенка. На что-то нужно указывать, давать названия и т.д. И снова я не знаю, какой ответ будет правильным, но я думаю, что следует попробовать оба подхода. Мы можем видеть только небольшое расстояние вперед, но мы видим, что многое еще предстоит сделать».

Расстояние до момента, когда ученые и инженеры вплотную занялись машинным мышлением, оказалось совсем небольшим. Понятие «искусственный интеллект» ввел в теорию логического программирования Джон Маккарти в 1956 году, то есть через два года после смерти Тьюринга. 

Разумеется, у Тьюринга в этой области были предшественники, начиная с Пигмалиона и кончая фон Нейманом, но нет никаких сомнений в том, что именно Тьюринг сдвинул дело с мертвой точки, и это, наверное, одна из его главных заслуг в истории изобретательско-инженерной мысли в IT-области. А ведь он просто показал, что все гораздо проще, чем кажется. Он рекомендовал не заморачиваться самим вопросом «Может ли машина думать?», считая его бессмысленным. 

«Единственный способ убедиться в том, что машина мыслит, — это стать машиной и почувствовать, что ты думаешь,  — писал он. — Тогда можно было бы рассказать об этих чувствах всему миру… Точно так же, согласно этой точке зрения, единственный способ узнать, что думает человек, — это самому стать этим человеком. На самом деле, это точка зрения солипсистов», считающих весь окружающий мир — всего лишь плодом своего воображения. 

Надо просто взять да научить машину уму-разуму, писал Тьюринг. «На данный момент мы, конечно, предполагаем, что уместно вести диалог с машиной по вопросами, предполагающими ответы “Да” или “Нет”, — писал он. — А не такие, как "Что вы думаете о Пикассо? "». С тех пор прошло не так уж много лет, и теперь поинтересуйтесь хотя бы у Алисы, что она думает о Пикассо, она расскажет вам много нового, чего вы не знали. Да, и не забудьте спросить у нее рецепт свиных крылышек!

В своих основополагающий работах об ИИ Тьюринг наговорил достаточно для приговора инквизиции, а заодно фетвы того же печального для него содержания. И сегодня, когда с помощью ИИ выращивают редиску (это не шутка, а вполне серьезная разработка отечественного агропрома), ИИ вызывает в народе противоречивые чувства. При несомненной и большой пользе он создает и проблемы, где их явно не ждали. Одна их них, например, вплотную касается патентов. 

Уже лет десять существуют юридические компании, предоставляющие услугу составления патентных заявок с помощью ИИ, гарантируя конфиденциальность и безопасность. Вот типичный пример рекламы их продукта: «В постоянно развивающемся мире интеллектуальной собственности (ИС) составление патентных заявок долгое время считалось сложной задачей, требующей не только глубокого понимания технологий, но и тонкостей патентного права. Процесс составления заявок, которым обычно занимаются опытные патентные поверенные, может быть длительным, дорогостоящим и требующим внимания к деталям. Однако недавние достижения в области искусственного интеллекта (ИИ) открыли новые возможности — создание патентных заявок с помощью ИИ». 

В прошлом году юристы одной из таких компаний — калифорнийской Paximal Co. решили все-таки проверить свой товар тестом Тьюринга, и он его не прошел. Сторонний патентный поверенный сразу видел заявки ИИ. И хотя они были «потенциально более читабельны и не содержали технических ошибок, но несмотря на их техническую корректность в них отсутствуют нюансы, отражающие индивидуальный опыт изобретателя». И что бы вы думали? Юристы компании считают, что патентные заявки, созданные с помощью ИИ, помогут установить новые стандарты качества в области патентного права, правда какие именно — не сказано. Но первое что просится на ум, это пометка большими буквами на самом видном месте первой страницы патента: «Сформирован с помощью ИИ».