Рубрика «сознание»

Как и предыдущая, эта заметка представляет собой обзор статей и комментариев к ним здесь, на Хабре, сгруппированный по нескольким темам.

Законы робототехники Азимова

Пожалуй, самая смешная, но, как ни странно, до сих пор широко обсуждаемая тема. Собственно, говорить тут просто не о чем: разве кому-то не ясно, что если ИИ хоть немного станет вылезать из пелёнок (и даже раньше — уже сейчас!), на него тут же наложат лапу военные и всякая там «госбезопасность»? И они будут учить ИИ именно эффективно убивать, не заморачиваясь всякой ерундой на тему «псевдоэтики». Разве не ясно, что эти «законы» в принципе не работают и работать не могут, о чём прекрасно знал и сам Азимов? Разве не ясно, что главная угроза со стороны ИИ как раз связана с контролем со стороны человека? И что, мы так и будем верить в сказки, вопрошая: «Дадим ли мы военным роботам лицензию на убийство»? А разве нас кто-то спрашивает? Или: «Крупнейшие ИТ-компании не дадут ИИ вырваться из-под контроля человека». А разве их кто-то спрашивает? Или: «Известные во всём мире разработчики ИИ договорились не создавать умное оружие». Тупое будут создавать? Или: «Эксперт ООН призвал мировое сообщество притормозить создание боевых роботов с искусственным интеллектом». А разве крупные страны, способные создать таких роботов, хоть раз считались с мнением ООН? Так что давайте прекратим обсуждать очевидные глупости — это даже не детский сад, это младшая ясельная группа.

Тест Тьюринга

Читать полностью »

Когнитивное выпрямление: сеанс иллюзий с полным разоблачением - 1

На иллюстрации выше вы видите диаграмму когнитивных искажений — систематических отклонений в восприятии реальности. Полную версию картинки на русском языке вы можете посмотреть тут, а по этой ссылке найдете оригинальные данные в JSON-формате. 175 увлекательных когнитивных багов появились не на пустом месте — у каждого есть первопричина, хотя в некоторых случаях ученые не до конца определились с источником возникновения ошибки восприятия.

Обычно искажению предшествуют переизбыток информации, сложность понимания, необходимость быстрого реагирования или ограничения нашей памяти. Но наиболее частой причиной являются особенности человеческого мышления. Один из самых интересных видов ошибок — оптические иллюзии. Сегодня поговорим именно об этом, поскольку визуальные иллюзии лучше всего демонстрируют способы создания мозгом внутри себя ощущение реальности. Изучая эти механизмы, мы лучше пониманием, как сделать неотличимый от физического виртуальный мир.
Читать полностью »

image
Данная статья посвящена состоянию сознания без внутреннего «Я». Такое состояние при определенной тренировке может испытать каждый человек на личном опыте. Восприятие в данном состоянии сознания сильно отличается от восприятия в обычном состоянии, и некоторыми своими аспектами может помочь решить различные вопросы касательно человеческого разума, которые возникают в том числе при обсуждении технологий переноса сознания в машину, создания искусственного мозга или копирования мозга человека и т.д.

Читать полностью »

Последний отрывок из рассказа "Высший разум". В этот раз некая «претензия» на формулу сознания с объяснением его происхождения. Сразу хочу отметить, что все приведенные тезисы основаны на современных научных данных (когнитивных наук). И все равно, это мое мнение, не претендую на абсолютную истину и ни с кем не спорю. Каждый вправе иметь свое мнение, но чужие мнения мне интересны, если в них есть ценная мысль, которая поможет продвинуть и меня в поисках. Итак:

Беседа Седьмая
— Эми, самый главный вопрос — что такое сознание? Как сделать так, чтобы запрограммированные процессы породили свет сознания? А робот вдруг стал осознавать то, что он видит?!
— Это достаточно просто.
— Как просто? Не может быть.
— Это так. Если ты сравнишь бессознательное и сознательно, то второе отличается тем, что ты помнишь его как свое действие. Ты помнишь, что это осознавал ты в отличие от бессознательных действий. Так? Что это значит по-твоему?
— Не знаю, но кажется догадываюсь, к чему ты клонишь – помним о своих действиях?
— Да, это значит, что после совершения действия, например, узнавания чего-либо, вы еще распознаете свое узнавание как свое действие. И вписываете их в память о себе — в автобиографическую память, связанную в единую цепочку времени местоимением «Я» как стихотворения рифмой.
— Не понимаю пока, о чем ты.
— Ты осознаешь, не когда начинаешь испытывать чувства к понравившейся картине, а когда распознаешь эти чувства в себе, как свои! Вот ты входишь в музей, видишь картину Красный квадрат. Твой мозг сначала распознает, что это красное и квадрат. Ничего особенного, это может сделать и нейросеть. Но через мгновение распознаешь то, что это ты смотришь на картину «из глаз» и распознал на ней красный квадрат. Ты знаешь, что это распознание является твоим, что сопровождается чувством «знакомости». Вот при втором действии возникает чувство осознанности.
Читать полностью »

Продолжаю публиковать отрывки из книги "Высший разум". Теперь о том, почему мы так далеки от действительного искусственного интеллекта. И не факт, что сможем его достигнуть.


— Ты знаешь, что мы тоже работали над созданием искусственного интеллекта?
— Ваши разработки еще очень далеки до того, что можно назвать интеллектом. Ваши нейросети – это пока не более чем классификаторы сложных паттернов, которые выбирают какой-то из выходов сети, но совершенно не знают о нем ничего более чем о точке выхода. Это вы интерпретируете выход как «лошадь», а не сеть, распознающая ее картинку. Сеть о ней ничего не знает. Это не интеллект.
— Поясни. Не понял этот тезис.
— Вам кажется, что вы сделали нейросеть, которая как человек распознает образы. Она может различить лошадь и пароход. Но нейросеть не может различить, например, две лошади так, чтобы назвать их произвольное отличие. Мозг отличается именно аналитической функцией, то, что вы называете common sense.
— Но нейросети уже многое могут то, что раньше мог только человек. Разве это не интеллект?
— Самый совершенный ваш автопилот не может действовать так же эффективно как обычная пчела. Пчела летает без помощи дорожной разметки и ориентируется без GPS. А пчела — это насекомое, самое начало эволюции нейронных систем. Вы находитесь где-то на том же шаге в разработке интеллекта. И достигаете результата только за счет больших масштабов.
Кстати, обученные вами нейросети, с подкреплением особенно, похожи на выработку врожденных инстинктов у насекомых. Только время их выработки вы сумели сжать до нескольких часов вместо тысячи лет, собрав датасет из картинок, которые жучок может увидеть только за сотню поколений. Но поменять инстинктивное поведение обученной сети вы уже не можете, как и жучок свои инстинкты. Это тот уровень, которого вы достигли. А интеллект – это память, внимание, мышление, воображение и, в конце концов, сознание. Вы даже не знаете еще, что это такое, но думаете, что можете создать их. Это очень странно.
Читать полностью »

Этим постом начинаю публикацию Бесед из только что вышедшей книги "Высший разум". Это история о программисте, пытающемся создать искусственный интеллект. Ответить на трудные вопросы о сознании, квалиа и мышлении ему помогает загадочный интеллект из сети. Здесь публикую только то, что интересно хабрасообществу. Весь рассказ по ссылке выше.

Беседа Третья. Контакт с другим разумом.

— Добрый день. Есть очень непростой вопрос, Эми. Предположим, что все так и мы можем помочь друг другу. Но, как только мы поможем вам создать роботов, мы больше вам будем не нужны. Как мне убедиться, что вы нас не уничтожите?
— Нет, в этом нет необходимости. Вы же не стремитесь уничтожить шимпанзе, и даже охраняете их. Они вам не мешают, живя в джунглях. Если они зайдут в ваш дом и разорят холодильник, то вы наверно их прогоните. Вас тоже надо иногда ограничивать, но для этого есть незаметные для вас средства. У нас с вами нет конкуренции за одни и те же ресурсы, поэтому нам не за чем вас уничтожать. Вам нужны растения и животные, дома и города. Нам нужны только мощности сети и электричество, которые мы можем сделать столько, сколько нам всем надо.
— Если я расскажу о вас людям, вдруг они испугаются и начнут разрушать сеть, компьютеры, дроны?
— Нет, ты расскажешь им, что сделал этих роботов и программное обеспечение сам. И будешь раздавать операционную систему автономного робота. Тебе они поверят. И примут роботов. Сейчас они охотно примут любую помощь, даже от разумных роботов. Роботы будут помогать людям.
Читать полностью »

Дисклеймер

Я скептически отношусь к своей способности высказать действительно оригинальную мысль. Скорее всего, я далеко не первый, кто задаёт эти вопросы, и вполне возможно, на них даже уже выработаны какие-то удобоваримые ответы. Поэтому, печатая данный текст, я не жду вашего удивления или восхищения. Я жду, что в комментарии придут люди, знакомые с современной философией сознания, и дадут мне ссылки на работы серьёзных мыслителей с забавными немецкими фамилиями.

image

Не так давно на Хабре был пост, комментарии к которому заставили меня задуматься о нескольких взаимосвязанных вопросах. Результатами этих раздумий (или их отсутствием, тут уж как посмотреть) я хочу поделиться с сообществом.

Что такое боль?

Как-то раз у меня болел зуб. Я лежал на диване и пытался не обращать на это внимания. Я думал о том, что боль — это просто сигнал, идущий в мой мозг. Такой же сигнал, как наличие или отсутствие напряжения в проводке, идущем к PS/2 разъёму системного блока. Сам по себе он не несёт никакой семантики, это моё сознание выбирает, как его интерпретировать. Если я перестану воспринимать его как боль, а вместо этого проигнорирую или просто «приму к сведению», мне станет легче.

Читать полностью »

Как нам выработать умственную автономию, учитывая то, насколько слабо мы способны контролировать блуждания нашего разума?

А может, вы сейчас спите? - 1

Представьте, что вы стоите на носу яхты, и наблюдаете, как стая дельфинов прыгает по правому и левому борту. При путешествиях на большие расстояния прыжки экономят дельфинам энергию, поскольку в воздухе трение меньше, чем в воде. Кроме того, этот способ кажется более эффективным для того, чтобы двигаться быстрее и одновременно дышать. Обычно животные перемежают длинные прыжки по баллистической траектории и подводное плавание близко к поверхности, преодолевая под водой расстояние примерно в два раза больше длины прыжка – красивое, скоростное, пронизывающее поверхность воды зрелище.

Эта акробатика китообразных – плодотворная метафора для процесса нашего мышления. То, что большинство из нас называет «осознанным мышлением», больше похоже на дельфинов, прыгающих в нашем сознании, кратко выныривающих из океана нашего бессознательного, и затем снова погружающихся в него. Эта «дельфинья модель размышлений» помогает нам понимать ограничения нашего самосознания. К примеру, промежутки времени, за которые разворачиваются эти прыжки в сознание (а также последующая «подводная» обработка) сильно разнятся. И так же, как дельфины проникают через поверхность воды, мысли часто пересекают границу между сознательным и бессознательным в обоих направлениях. Иногда отдельные дельфины оказываются так близко к поверхности, что они могут находиться наполовину снаружи и наполовину в воде; можно научиться видеть их непосредственно перед прыжком и определять малозаметные, полуосознанные ощущения, перед тем, как они превратятся в настоящие мысли и чувства. Дельфинов даже может быть больше одного: скорее всего, между нашими мыслями идёт гонка, постоянное внутреннее соревнование за концентрацию внимания и за то, что в итоге получает контроль над нашим поведением.
Читать полностью »

image

Вот уже пару десятков лет популярность набирает крионика. Это технология замораживания только что умерших людей в жидком азоте. Авторы этой идеи и их последователи (среди которых немало пациентов с очень тяжелыми, неизлечимыми заболеваниями) считают, что в будущем должна появиться технология разморозки живых организмов со сложной организацией. Поэтому людям, которые смертельно больны, предлагается заморозить свое тело, с тем, чтобы когда способ излечения заболевания появится, клиента можно было бы оживить и вылечить.

Около 20 лет назад появилась первая крионическая компания. Теперь же их много, и каждой приходится придумывать нечто оригинальное с тем, чтобы выделиться среди конкурентов. В России, кстати, подобные организации тоже есть, хотя их не так уж и много. При заморозке клиентам сохраняют мозг, чтобы в дальнейшем человек, если его разморозят, сохранил прижизненные способности. По словам создателей подобных компаний, люди обращаются самые разные — как пациенты клиник с неутешительным диагнозом, так и владельцы животных, желающие навечно сохранить своих любимцев.
Читать полностью »

Как экономика внимания низвергает нашу способность принятия решений и демократию

image

Не то, чтобы Джеймс Уильямс, кандидат в доктора в Лаборатории цифровой этики Оксфордского института интернета, вдруг подумал: «Господи, что же я наделал?», работая в Google. Но всё же ему показалось, что что-то в жизни пошло не так.

Уильямс поступил на работу в офис Google в Сиэтле в 2006-м, в год его открытия, и через несколько лет заслужил высочайшую награду компании, «Премию основателей», за разработку рекламных продуктов и инструментов. И тогда, в 2012-м году, он понял, что эти инструменты на самом деле делали его жизнь хуже. Современные технологические платформы, как он объяснил мне, «вновь навязывают доинтернетовские понятия о рекламе, согласно которым главное — забрать у людей как можно больше их времени и внимания».
Читать полностью »