Мысленный эксперимент, который показывает, что ни одна теория не может адекватно формализовать самоощущение машин

Печатая эти строки, я вижу мир вокруг, слышу его звуки, чувствую, как течет время. Ветер колышет верхушки елей, птица выводит трель, пахнет ивовой корой, горное солнце печет мою кожу. Я ощущаю себя, и это ощущение само по себе кажется мне чудом. Как оно рождается? Как множество разрозненных и неразумных клеток, потоков жидкостей и электрических импульсов внутри моего тела объединяются в единое целое и становятся тем, что мы называем собственным "Я"?
Можем ли мы математически описать природу самоощущения, можем ли мы построить машины, которые обладали бы им наподобие нас?

Контекст исследования

Я математик и в качестве хобби уже давно исследую вопрос о том, как научить машины работать со смыслом: обнаруживать закономерности, формировать понятия, творчески взаимодействовать с окружающей средой. Пару лет назад меня посетила догадка, что в основе феномена мышления ^[1] может лежать процесс оперирования языком, одна лишь структура которого полностью определяет его смысл (это странные языки называют самообъясимыми, один такой был создан математиком Фройденталем в мечте рассказать о нас внеземным разумным существам). В самообъяснимых языках каждое понятие выражается как некоторая закономерность в их грамматической структуре.

Чтобы проверить правдоподобность своей догадки, я взял несколько ментальных функций человеческого мышления ^[1] и попробовал построить похожие на них явления в машине. В моей модели машина была набором рецепторов, манипуляторов и рефлексов, которые на каждом ходу просматривали самообъяснимый текст (ее “кадр мысли”) и позволяли ей действовать. В зависимости от содержания текста рефлексы, с одной стороны, заставляли манипуляторы совершать моторные действия во внешней среде, а с другой – вкупе с данными от рецепторов создавали новый текст для следующего хода.

Свое исследование я начал с такого вопроса:
Предположим, что достаточно разумное существо просматривает напечатанные машиной тексты. Сможет ли оно по одним лишь структурным закономерностям этих текстов сказать, что
1) машина имеет представление о течении времени, концепции будущего, прошлого и настоящего;
2) в представлении о внешнем мире, которое машина формирует на основании данных от своих внешних рецепторов, она может выделить действия, которые совершила она сама;  
3) машина имеет образную память и относится к ее содержимому как к тому, что с ней действительно когда-то произошло.

Это интересные и во многом фундаментальные вопросы поведения машин (с вашего позволения, фундаментальные вопросы "робопсихологии"). Их сложность прячется за обыденностью их тем. Попробуйте, например, подумать над тем, каким образом у вас самих складывается впечатление о течение времени. Это кажется чудом, если мы считаем, что существует только миг настоящего: прошлое уже прошло, а будущее еще не наступило. Или попробуйте ответить на вопрос, как вы сами понимаете, что иллюзии, которые подбрасывает вам ваша память – это действительно то, что с вами когда-то происходило. Наконец представьте, что у вас нет мышечного чувства и чувства осязания, как вы тогда поймете, что вашей рукой движете вы сами, а крыльями чайки – нет.

У меня получилось найти самообъяснимые структурные свойства текста, которые давали возможность исследователю угадать в них идею времени, памяти и различения собственных действий машины. Я был вдохновлен успехом и решил поискать, можно ли в моей теории определить что-то похожее на самоосознание машин. Отправной точкой был такой вопрос:

А что, если достаточно разумным исследователем текстов является сама напечатавшая их машина. Есть ли такая закономерность, которая бы позволила ей «понять», что каждый раз она наблюдает свой собственный текущий «кадр мысли»?

Имеется в виду не эксперимент, в котором у машины на каждом шаге два текста: «внутренний» «кадр мысли» и внешний – его дубликат. Нет, пусть у машины будет только один внутренний текст. Внутренние рецепторы, чтобы его изучить, у нее имеются. Если бы удалось построить такую грамматическую закономерность, которая бы как-то указывала на принадлежность текста самой машине, то это было бы похоже на ее чувство ощущения (осознания) самой себя.

Я провел много времени в попытках конструирования подходящих свойств. В процессе выяснялось, что необходимо ввести значительные ограничения на конструкцию машины, иначе появляются заведомо абсурдные примеры. Мне казалось, что решение близко и я его вот-вот получу. Однако каждая моя попытка определить самоощущение быстро натыкалась на пример, где оно было слишком непохоже на то, как ощущаем себя мы. После многих неудач я наконец нашел мысленный эксперимент, который явно указывал на то, что удовлетворительно определить самоощущения внутри какой-либо математической теории невозможно в принципе. Прежде чем я опишу этот эксперимент позвольте мне уточнить, что именно я понимаю под «математическими теориями».

Формализм

В повседневной жизни мы стараемся определять более сложные понятия через уже определенные более простые идеи. Мы стремимся сказать, чем по-настоящему является вещь или феномен. К сожалению, такой способ определения нельзя полностью сделать научным. Действительно, понятия обязаны выстраиваться в иерархию, где более простые участвуют в определении сложных. Поскольку понятий конечное число, то обязательно найдутся понятия самой нижней ступени, такие, которые нельзя определить. Эти идеи нижней ступени должны быть понятны интуитивно сами по себе. В бытовых ситуациях это ограничение нам не сильно мешает. Через опыт и без всяких определений мы легко познаем идею горячести, боли, радости и красноты. Но наука требует точности, поэтому она изобрела другой подход.

Научные теории не пытаются сказать, чем именно является вещь или что именно выражает отношение между вещами. Вместо этого научные теории перечисляют совместные логические свойства абстрактных вещей и отношений. По всей видимости первым эту парадигму для построения большой научной теории применил Евклид в своих Началах геометрии. В отличие от предшественников он не пытался сказать, чем именно являются точка, прямая, или мера длины. Он не говорил, чем именно является отношение принадлежности точки прямой или отношение одной точке лежать на прямой между двумя другими. Он просто потребовал, чтобы все эти понятия удовлетворяли определенным логическим свойствам – аксиомам геометрии. Одна из аксиом требует, чтобы через всякие две различные точки можно было провести ровно одну прямую, другая - чтобы из трех точек на прямой в точности одна лежала между двумя другими, и так далее. Если какие-то множества вещей и отношений удовлетворяют всем аксиомам Евклида, то в определении Евклида, они будут составлять его геометрию, независимо от их настоящей природы.

Окончательно этот подход был введен и формализован Гильбертом. С тех пор теории – это наборы логических предложений, которые строятся из формальных переменных, формальных k-местных отношений, скобок, логических связок и кванторов. Переменные и отношения формируют «атомарные» утверждения, которые затем соединяются логическими связками и предваряются кванторами. Скажем, утверждение евклидовой геометрии, что через точку вне прямой проходит ровно одна прямая параллельно данной, в формальной записи будет выглядеть примерно так:

[для всех a, b]:(((прямая(a)) и (точка(b)) и не(b лежит на a)) -> [существует c]:((прямая(с)) и (b лежит на с) и (c параллельна a) и [для всех d]: (((прямая(d)) и (b лежит на d) и (d параллельна a))
-> (d совпадает с c))).

Предполагается, что вместо формальных переменных могут быть подставлены вещи произвольной природы, вместо формальных отношений – любые отношения между такими вещами. Если совокупность вещей и отношений удовлетворяет всем аксиомам теории, то говорят, что они реализуют понятие, которое эта теория определяет, или по-другому - является моделью этой теории.

Мысленный эксперимент

Является ли самоощущение у машин (например у нас самих) понятием, которое можно определить при помощи формальной теории?

Предположим, что такая теория есть. Возможно, она содержит переменные для конструктивных элементов машины, протекающих внутри машины процессов, пересылаемых данных, явлений окружающего мира и для чего угодно еще, а также для отношений, которые все эти вещи как-то связывают. Может быть эта теория самоощущения машин включает в себя аксиомы квантовой механики или что-то еще – не важно, лишь бы она была формальной.

Тот факт, что наша теория определяет понятие самоощущения машин означает следующее.  Если мы возьмем реальную машину, назначим каждой формальной переменной теории множество реальных объектов внутри (если надо, то и вовне) этой машины, каждому формальному отношению – реальное отношение между этими объектами, а затем проверим истинность аксиом, то аксиомы будут истинны тогда и только тогда, когда машина обладает самоощущением.

Наверное, мы – люди обладаем самоощущением, так что по всей видимости машины с самоощущением есть. Фиксируем любую машину с самоощущением (например, свое тело), а затем сделаем следующее. Возьмем проектор с большим разрешением и выведем на белую стену детализированное изображение того, как в реальном времени работает выбранная нами машина. Если надо отобразим даже субатомные частицы и поля. Да, возможно обычной стены нам не хватит и понадобится 3d экран размером с Солнечную систему, где у каждого пикселя есть множество дополнительных табло. Пусть это вас не смущает: практическая реализуемость для наших рассуждений не так важна, как принципиальная.
Что мы в итоге получим?

На экране мы увидим проекцию нашей настоящей машины – иллюзорную машину. Для каждого материального объекта, процесса или отношения внутри настоящей машины, на экране будут существовать проекции этих объектов, процессов или отношений внутри машины иллюзорной. Для каждого логического утверждения о настоящей машине, сформулированном в терминах ее конструктивных составляющих и их поведения мы сможем составить точно такое же логическое утверждение в терминах их проекций. Это последнее будет высказыванием о машине иллюзорной.     

С точки зрения наблюдателя проекции материальных объектов: шестеренок, ключей, атомов, электронов, полей, потоков жидкостей… на экране будут вести себя точно также, как их прообразы в реальном мире (поведение будет подчиняться тем же уравнениям и законам). Но наблюдаемое поведение объектов - это в точности то, что и может зафиксировать любая формальная теория (мы говорим, что сила – это причина ускорения, поле – это то, что заставляет частицу изменять траекторию и скорость движения и тому подобное). Отсюда следует важное заключение:

Всякое логическое утверждение, сформулированное в терминах конструкции и поведения частей настоящей машины, будет истинным тогда и только тогда, когда истинно такое же утверждение об их проекциях в машине иллюзорной.

Выходит, что если есть теория, которая формализует понятие самоощущения, и для некоторой реальной машины все ее аксиомы верны, то верны они будут и для ее экранной проекции.

Да, но множество световых зайчиков на белой стене, наверное, не может себя ощущать: они всего лишь проекции, которые создает проектор.

Следствия

Не только самоощущение (по всей видимости) не может быть определено формально. Мысленный эксперимент с проекцией показывает, что, например такие понятия как «причинность» и «взаимодействие» тоже чисто математически определить нельзя. Я подозреваю, что именно присутствие «настоящего» взаимодействия и дает возможность реальным машинам вроде нас ощущать свое существование.

Если мы не можем определить самоощущение формально, можем ли мы построить «менее формальную» теорию, которая могла бы его описать. Можем ли мы, например создать формальную теорию, но дополнительно потребовать, чтобы формальный объект «электрон» и формальное «поле» интерпретировались не чем-либо с такими же математическими свойствами, а именно настоящими электроном и полем? Или чтобы машина состояла из живых клеток и имела определенной конструкции мозг ^[1]?

Да можем, но тогда как мы поймем, что те машины, которые описывает наша теория с предопределенной интерпретацией действительно обладают чувством самоощущения? Нам снова придется придумывать тест, базирующийся на наблюдении за их поведением, и этот тест снова поломается об экранный эксперимент.

Я думаю, что в конце концов мы построим машины, которые будут способны корректно воспринимать и обращаться с окружающими их смыслами. Быть может некоторые из этих машин окажутся способны к самоощущению, однако доказать наличие у них этой способности у нас, по всей видимости, не получится никогда. Похоже, нам стоит смириться с тем, что не все познается теоретически и относится к нашему ощущению себя как маленькому необъяснимому чуду.

Сергей Коваленко
горы Казахстана
август 2026 года