Чему люди научились у компьютеров

Чему мы научились у компьютеров? На первый взгляд, постановка вопроса абсурдная. Ведь люди сами придумали информатику, сконструировали компьютерную технику и написали софт. Как можно чему-то научиться у своего детища?

Оказывается, можно. И не потому, что недетерминированная система выдаёт непредсказуемый результат. Наоборот, дело в крайней системности и детерминированности программ. Иногда кажется, что эта железная логика мощнее и сильнее человеческой психологии, эмоций и биологической природы. Поэтому она берёт верх.

Вот некоторые примеры, как изменилась наша жизнь под влиянием компьютерных алгоритмов. Речь о чертах характера, моделях поведения и восприятии окружающего мира.

▍ Нейросеть

Восприятие окружающего мира — это модель обработки фактов/данных в нашем сознании. Раньше человек не знал, что мозг ^[1] — это нейросеть, которая обучается на определённом массиве данных. Её можно переобучить, перенастроить, у неё есть специфические для нейросетей когнитивные искажения и так далее.

Теперь у нас есть это понимание. И мы примерно представляем, как можно исправить конкретные дефекты этой нейросети:

• физические и психологические зависимости;
• необоснованные предубеждения;
• агрессию;
• и т. д.

Последние научные исследования показывают, что некоторые из этих дефектов не зависят от интеллекта ^[2]. Например, необоснованные предубеждения (bias) легко заметить в посторонних людях, но очень сложно разглядеть в собственной нейросети, поскольку анализ выполняет она же сама. Таким образом, эти искажения в полной мере присутствуют даже у очень умных людей, хотя и легко заметны со стороны (Cognitive sophistication does not attenuate the bias blind spot ^[2], J Pers Soc Psychol, 2012 Sep;103(3):506-19. doi: 10.1037/a0028857).

Исправление (переобучение) нейросети — довольно стандартная задача в ML и AI. В отношении человека эти методы в будущем могут стать общеизвестными, общепринятыми и использоваться с самого рождения ребёнка. Возможно, они и сейчас используются в педагогике, только без серьёзного теоретического фундамента информатики.

▍ Транзисторы — невидимая инфраструктура цивилизации

C распространением компьютеров мир сильно изменился. Сейчас вычислительные устройства пронизывают его настолько плотно, что уже сами стали инфраструктурой, фундаментом для дальнейшего развития. Многие отрасли просто невозможны без информатики, интернета, цифровых файлов и фотографий. Никто уже не помнит, как проявлять коллоидную плёнку.

Транзисторы стали невидимой инфраструктурой цивилизации ^[3]. Сложно было ожидать такое от радиоэлектронного устройства, которое управляет проходящим через него током? Но это ключевое изобретение легко в основу схемотехники и породило целую цифровую вселенную, которая усложняется до бесконечности на этой элементарной базе.

Копия первого в мире работающего транзистора (1947, Нобелевская премия 1958)

▍ Жизнь под управлением алгоритмов

Развитие информатики привело к тому, что сегодня многими аспектами нашей жизни управляют алгоритмы ^[4]. Они формируют наши предпочтения в сети, помогают выявить болезни, отфильтровать электронную почту. Какие продукты купить, какую информацию прочитать, какие фильмы посмотреть и т. д. Алгоритмы направляют людей.

По мнению специалистов, понимание человеческих намерений станет следующим важным прорывом в ИИ ^[5]. То есть ИИ станет если не понимать, то хотя бы распознавать те программы, под управлением которых находится человек в данный момент (его цели, жизненные приоритеты, конкретные желания в данный момент). Со стороны это гораздо легче определить, чем самому носителю.

Понимание, что другое существо мыслит иначе, чем ты сам (конструирование модели его сознания в своём мозге ^[1] с полной эмпатией) — важный шаг в развитии интеллекта ^[6]. К сожалению, не у всех людей развито такое понимание в полной мере. Кажется, что некоторые умышленно блокируют эту способность (см. ниже: cognitive closure как защитная мера ^[7]).

▍ Мозг как машина

Согласно современным представлениям когнитивной науки, мозг ^[1] принимает решения как достаточно детерминированная машина. По одной из теорий, он вычисляет разные варианты будущего и выбирает из них наиболее подходящий.

Это чем-то напоминает квантовую физику. Там реальность объединяет все возможные сценарии и состоит из вероятностей ^[8]. В буквальном смысле. Например, физическая частица — это облако вероятностей, а её траектория — это облако из всех возможных траекторий, что хорошо показывает эксперимент с интерференционной решёткой.

Это облако вероятностей в каком-то смысле объединяет в себе и прошлое, и будущее, так что вычленить «настоящий момент» затруднительно. И прошлое, и будущее существуют как бы во всех вариантах одновременно.

В исследованиях Хейлброна и других учёных ^[9] мозг ^[1] — это постоянно работающая машина для предсказания будущего, которая непрерывно сравнивает свои прогнозы с реальностью и заполняет пробелы. В каком-то смысле это похоже на систему автодополнения кода в IDE или слов в телефоне. Если прогноз и реальность сильно различаются, это вызывает удивление, смех и т. д. (PNAS, Vol. 119, No. 32, doi: 10.1073/pnas.2201968119).

Экспериментальная и аналитическая установка сканирования мозга ^[1] с использованием GPT-2 для оценки вероятности следующих слов, источник ^[9]

Доказательства иерархической инференции при фонемном предсказании в человеческом мозге ^[1], когда предсказание следующей фонемы зависит не только от частотности, но и от контекста, источник ^[9]

Согласно ЭЭГ, мозг ^[1] предсказывает следующие слова и предложения примерно как GPT. Можно предположить, что эта «прогностическая машина» работает не только в отношении текстов, но и в отношении остальных событий окружающей реальности.

Если рассматривать мозг ^[1] как детерминированную машину, то наши действия становятся обсуловленными. В таком случае исчезает понятие «ошибки» ^[10] и свободы воли. Каждая «ошибка» логично вытекает из других действий, то есть по сути является не ошибкой, а естественным следствием реальных факторов (включая количество сна, психологическое состояние человека и т. д.).

Примерно такую теорию предложил Карл Фристон ^[11], британский нейробиолог и специалист по визуализации мозга ^[1], изобретатель статистической параметрической разметки (SPM) и воксельной морфометрии (VBM). Это математический принцип свободной энергии ^[12], который предполагает, что из множества вариантов действия организм всегда выбирает самый понятный вариант с точки зрения информационной теории (минимизируя непредсказуемые последствия). То есть мозг ^[1] работает как логическая машина вывода ^[13]. В такой модели нет места «человеческой ошибке». Есть состояние, в котором вероятность катастрофического решения повышается (например, нажатие «красной кнопки» с уничтожением человечества или выезд на встречную полосу). Но, с точки зрения принципа свободной энергии, это не ошибка. Человека можно ввести в такое состояние умышленно или он может осознанно это сделать с собой, например. И это будет логичное решение для этой конкретной машины вывода.

▍ Блокировка сознания от неприятной информации

Ещё один «компьютерный» навык людей — блокировка сознания от неприятной информации (cognitive closure) и игнорирование рекламы. Понятно, что это древняя защитная техника, которая у людей давным-давно. Но с появлением компьютерных нейросетей стало предельно понятно, как она работает.

Отсекая часть данных, мы можем изменить результат обучения нейросети. Таким образом человек избегает стресса, связанного с пониманием неприятных фактов об окружающей действительности. Это можно использовать в разных целях. Например, чтобы получить стратегическое преимущество перед конкурентами, которые ослаблены этой травмирующей информацией. Или чтобы усилить впечатление от её первичного получения. Есть и другие мотивы, подробнее см. научное исследование ^[14] в журнале Psychological Review (2017, Vol. 124, No. 2, 179 –196, doi: 10.1037/rev0000055). Можно использовать также опросник ^[15], насколько человек нуждается в самозащите с помощью блокировки от неприятной информации (NFCS, The Need for Closure Scale).

Список тем из области когнитивного закрытия в Испании и Германии (то есть вопросы, на которые люди не хотят знать ответы), источник ^[14]

В случае с игнорированием рекламы напрашивается аналогия со спам-фильтром или блокировщиком рекламы в браузере. Тут всё довольно очевидно.

---

Перепрограммирование (переобучение) мозга ^[1] как нейросети — немного киберпанковская тема. Сейчас это кажется научной фантастикой, но может стать повседневной рутиной для наших потомков.

Абсолютно продуманное рациональное поведение, без глупых, спонтанных и эмоциональных порывов — это самое ценное, чему мы научились у компьютеров. Кто знает, может быть, крайний рационализм когда-нибудь оформится в форме философского движения или религии. Всё-таки хочется, чтобы наши действия вели к предсказуемым результатам.

Кстати, примерно год назад в мозге ^[1] человека идентифицировали специальные нейроны для математических операций. Математика настолько проникла в нашу жизнь, что мозг ^[1] адаптировался буквально на физическом уровне.

Межпробные ответы четырёх нейронов, отвечающих повышенной частотой вспышек на правило «сложения» (A, B) и «вычитания» (C, D) независимо от конкретной подсказки, указывающей на правило (Neuronal codes for arithmetic rule processing in the human brain ^[16], Current Biology 32, 1275–1284, 28.03.2022)

Складывается впечатление, что в будущем психологические проблемы человека будут решать специально обученные программисты с математическим образованием, которые хорошо разбираются в переобучении нейросетей.

🏆 Голосуй за нас на премии «ЦОДы РФ»! ^[17]

Автор:
ru_vds

Источник ^[18]