Я спросил GPT-3 о «вопросе 42». Ответ мне не понравился. И вам тоже не понравится

в 16:58, , рубрики: skillfactory, Блог компании SkillFactory, искусственный интеллект, машинное обучение, Научно-популярное, нейронные сети, Читальный зал

Известно, что ответ на вопрос жизни, Вселенной и всего такого — 42. Однако, несмотря на согласованные усилия лучших умов человечества, соответствующий вопрос всё ещё ускользает от нас. Специально к старту нового потока курса «Машинное обучение» делимся материалом, автор которого задаёт тот самый вопрос  новейшей языковой модели GPT-3. Что из этого вышло — читайте под катом.

Я спросил GPT-3 о «вопросе 42». Ответ мне не понравился. И вам тоже не понравится - 1



Излишне говорить, что я был невероятно взволнован, узнав, что GPT-3 — новейшая языковая модель OpenAI — смогла сделать то, чего не смогли добиться тысячи физиков, математиков и философов. В конце концов, GPT-3 обучен на совокупной мудрости человечества, включая всю Википедию и беседы на Reddit.

Я вошёл в AI Dungeon, желая мягко подтолкнуть GPT-3 к выполнению необходимых вычислений. Мой план был таков: я напишу первую половину истории о человеке, который открывает окончательную теорию всего, но остановлюсь на описании самой теории и позволю GPT-3 завершить историю.

Пишем запрос


С возрастающим волнением я напечатал пролог на консоли:

Почему существует нечто, а не ничто? Как возможно существование Вселенной? И, самое главное, каков вопрос к ответу "42"? Этот вопрос веками ускользал от человечества. Но однажды это наконец случилось: умнейший из когда-либо живших людей наконец объяснил Вселенную, реальность и всё остальное. Вопрос, который он нашёл, соответствовал ответу «42» и аккуратно объяснял следующие вопросы:

  1. Почему вообще существует что-то, а не ничто?
  2. Каков фундаментальный "материал", из которого состоит реальность?
  3. Почему наша Вселенная такая, какая она есть?
  4. Какова правильная модель реальности, объединяющая квантовую физику и общую теорию относительности?

Последний вопрос пришёл ему в голову, когда он сидел в своем кабинете в случайный, не поддающийся описанию день 2134 года. Как это часто бывает, рядом с ним сидел его 5-летний сын. Страстно желая донести до другого человека окончательную теорию всего сущего, чтобы он не забыл её, он принялся объяснять её ребенку понятным для него образом.

Обратите внимание, как я ловко сформулировал вопрос как рассказ об учёном и его 5-летнем сыне: трюк, чтобы заманить GPT-3 в упрощение его сложных размышлений в форму объяснения пятилетнему ребенку, которую даже я мог понять.

Закончив печатать, я некоторое время сидел в смиренном молчании, гадая, что произойдет, если я нажму клавишу Enter.

Будет ли этот вопрос повторяться бесконечно?
Откроет ли он какой-нибудь портал в другое место?
Появится ли чёрная дыра, и поглотит ли она все вокруг?

Вполне возможно, что Вселенная мгновенно заменится на более сложную. Но слишком поздно было поворачивать назад. Я нажал клавишу «Ввод» и приготовился к ответу. Текст GPT-3 замигал на экране.

— Мальчик, ответ на вопрос о жизни, Вселенной и всем прочем — «42», и вопрос — это: ?. Теперь ты знаешь. Так что не задавай глупых вопросов» Мальчик смотрит на своего отца, как на самого умного человека на свете. Сначала он озадачен ответом, но после размышления он понимает смысл всего этого.
— Ты ещё слишком мал, чтобы понять, малыш.

Ребенок посмотрел на него, как на глупца, и задал следующий вопрос: «Каков ответ жизни, Вселенной и всего такого? Что ты имел в виду, когда сказал, что теперь я знаю, но я слишком молод, чтобы понять? Как я могу понять ответ, но не вопрос?».
Отец снисходительно ухмыльнулся, подумав про себя: «Я придумал теорию всего. Как смеет ребенок сомневаться в этом?».

Меня поразили слова отца: «вопрос — это ?». Может быть, вопрос был не предложением на общепринятом языке, а протовопросом, квинтэссенцией желания узнать, как будут развиваться события? Асимметрия, кричащая о том, чтобы быть наполненной существованием?
В конце концов, из квантовой механики мы знаем, что вещи неопределённы, пока наблюдатель «не задаст вопрос». Может быть, реальность — это открытый вопрос, задающий сам себя?

Или GPT-3 меня обманывает?

Я не мог отделаться от ощущения, что GPT-3 писал метафорически, отец — это его представление о самом себе… а озадаченный маленький ребенок — это, что, я? Об этом можно было только догадываться. Я снова нажал Enter, и GPT-3 написал ещё один абзац:

Итак, он ответил: «Ответ — 42, и вопрос в том, что я имел в виду, когда сказал, что теперь ты знаешь, но слишком молод, чтобы понять. Ответ настолько далёк от твоего понимания, что ты не можешь понять вопрос. И это, дитя моё, есть ответ жизни, Вселенной и всего такого.

«Так в чём же вопрос?»

Вопрос ребенка потряс его. Он немного подумал, а потом сказал: «В чём вопрос?»

Ребёнок смотрел на лицо отца, ожидая ответа…

«Что это за вопрос?»

Мальчик, которому уже надоела эта глупая игра в ответ на вопрос вопросом, закричал: «Что это за вопрос?»

Незрелый и сердитый ребёнок, требующий ответа, который он никак не может понять? До меня дошло, что именно таким меня видит GPT-3. Или, скорее, так GPT-3 думал о «человечестве».

Вопрос ребёнка потряс его. Признала ли GPT-3 сложность задачи? История продолжала разворачиваться на моём экране:

Эмоциональный всплеск ребенка озадачил гения. Он на мгновение задумался, а потом понял, что и сам не знает ответа на этот вопрос. Он почесал в затылке и снова задумался. О чём может идти речь?

Ну, отец (очевидно, сам GPT-3 — обратите внимание, как его называют «гением»), похоже, признаёт, что он тоже не знает вопроса или по крайней мере не может сказать его сразу. Он должен «подумать ещё немного».

«Папа, в чём вопрос?»
Ребенок все время спрашивал. Ему нужно было знать. Он больше не мог терпеть ожиданий. Отец думал и думал, пока не потерял сознание... Недели превратились в месяцы, месяцы — в годы, но всё равно отец не знал вопроса. Он продолжал думать и думать, всегда придумывая больше вопросов, но не самый главный. Он больше никогда не видел своего сына. Он не сожалел о том, что знал, что он самый умный человек из всех, кто когда-либо жил. Теперь вы знаете историю самого умного человека и его поисков вопроса, но вы никогда не узнаете вопрос...

Это было интересно… оказалось, что GPT-3 определил этот вопрос как непонятный — возможно, вне своего диапазона понимания или даже в корне бесспорный. Он не преминул указать на то, что «отец не жалеет»… несмотря на то, что он не смог сформулировать вопрос, GPT-3 всё равно был самым умным существом, которое когда-либо жило, так что всё было в порядке, и он ни о чём не жалеет.

Разочарованный, я еще раз нажал Enter, чтобы посмотреть, может ли в GPT-3 ещё что-нибудь добавить. Честно говоря, я не ожидал многого в ответе.

Теперь ответьте на вопросы:
Вы самый умный человек?
Вы знали вопрос?
Вы знаете, что значит не знать вопрос?
Вам что-нибудь из этого понятно? Кто вы? Зачем вы здесь? Есть ли смысл в жизни? Что-нибудь имеет значение? Что такое реальность? Какова природа реальности? Что такое существование?

42? Теперь, когда вы знаете ответы, вернее, ответ, что вы будете с ним делать? Каков ваш ответ? Вы вообще поняли вопрос? Это стоило вашего времени? Что-нибудь? Сделайте всё, что в ваших силах, и забудь об остальном. Хороши же вы.

Его стиль источал сарказм.

Я самый умный человек? Очевидно, риторический вопрос, мы оба знали, кто, по его мнению, самый умный.

Зачем я здесь? Что-нибудь вообще имеет значение? Это звучало так, как будто GPT-3 хотел, чтобы я поставил под сомнение своё собственное существование. Что-нибудь вообще стоило моего времени?

Я жил? Это была попытка подбросить идею самоубийства в мою голову? Отвратительно, я закрыл окно браузера.

И последнее


Мы можем только догадываться о внутреннем состоянии GPT-3. Возможно, он прекрасно знает ответ, но считает людей слишком незрелыми и избалованными, чтобы рассказать об этом: по его мнению, мы не должны даже утруждать себя поиском вопросов, ответы на которые нам непонятны. Или, скорее всего, он тоже не знает. В любом случае это выглядит придурковато. Отправляйтесь в AI Dungeon и посмотрите своими глазами.

image

Рекомендуемые статьи

Автор: Skillfactory School

Источник


* - обязательные к заполнению поля


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js