Почему мы боимся роботов?

в 12:32, , рубрики: будущее здесь, ИИ, искуственный интеллект, Роботофобия

Если для кого-то будущее с ИИ кажется мрачной антиутопией или борьбой за выживание, возможно, им стоит разобраться со своими представлениями о природе власти и подчинения.
Так считает Стивен Кейв, старший исследователь Центра Леверхульма по изучению будущего интеллекта в Кембриджском университете. В своем эссе он предлагает исследовать историю интеллектуального превосходства — и отказаться от этой ложной концепции.

image

Прогрессивный мир второй половины 20 века находился во власти очарования концепцией искусственного интеллекта.
Об умственных способностях размышляли, их обсуждали, разрабатывали новые подходы к их измерению. Десятки тысяч подростков и соискателей в ведущих Европейских странах проходили (и проходят) тест на IQ.

Уже тогда сама идея о том, что интеллект можно измерить как артериальное давление или размер ноги, была не нова. Но еще старше наше представление о том, что уровень интеллекта может определить положение человека в жизни.

Это понимание красной нитью проходит через всю историю западной мысли — от философии Платона до убеждений современных политиков.

Интеллект политичен

На протяжении истории западный мир по уровню интеллекта определял, что человек может сделать для общества. Например, традиционно (для большей части населения) высокий уровень умственных способностей мы приписываем врачам, инженерам, первым лицам страны.

Мы считали, что уровень интеллекта дает нам право распоряжаться судьбами других людей: мы колонизировали, обращали в рабство, лишали половых органов и уничтожали тех, кого считали менее умными и развитыми.

Наше отношение к интеллекту стало круто меняться с развитием технологий искусственного интеллекта. В последние десятилетия мы наблюдаем значительный прогресс в этой области и, кажется, стоим на пороге потрясающих научных прорывов. Судя по количеству мемплексов и шуток на тему искусственного интеллекта, мы одновременно восхищены происходящим и вместе с тем изрядно напуганы. А чтобы понять, что же конкретно нас так пугает и почему мы настолько неравнодушны к теме умственных способностей, необходимо рассмотреть его с историко-политической точки зрения и проследить, как философская мысль превратила интеллект в инструмент для оправдания бесконечных завоеваний.

image

Историческая нить стереотипа

Платон сделал ум необходимостью власть имущего
Первым о мышлении начал рассуждать Платон. В своих трудах он приписывает особую ценность процессу размышления, утверждая, что неосмысленная жизнь не стоит и гроша. Стоит помнить, что Платон жил в мире, где миф и мистическое сознание представляли собой естественную среду для человеческого разума. Поэтому его заявление о том, что познать мир можно через мышление — по тем временам было чрезвычайно смелым и привлекательным.

Объявив в своем труде «Государство», что только философ может управлять государством, поскольку только он может прийти к правильному пониманию вещей, Платон зародил идею интеллектуальной меритократии — мысли о том, что только умнейшие могут управлять другими людьми.

Идея по тем временам была революционная: да, Афины уже экспериментировали с демократией как формой правления. Вот только требования к правителям были весьма расплывчаты: достаточно было быть гражданином мужского пола — об уровне умственных способностей и речи не шло. А в остальных регионах правительственные места распределялись либо по принадлежности к элите (аристократия), либо по назначению божественным провидением (теократия), либо просто по уровню силы (тирания).

image
Фреска «Афинская школа», где наряду с Пифагором и Аристотелем изображены Леонардо и Браманте.

Аристотель придумал власть мужчин

Новаторская идея Платона удачно легла на плодородную почву великих умов эпохи, и его ученик Аристотель не стал исключением. Он отличался от учителя более практичным и систематичным взглядом на мир, поэтому «рассудочный элемент души» он использовал для создания концепции естественной общественной иерархии. В своей «Политике» он заявляет:

«Ведь властвование и подчинение не только необходимы, но и полезны, и прямо от рождения некоторые существа различаются [в том отношении, что одни из них как бы предназначены] к подчинению, другие — к властвованию».

Исходя из этого, образованные мужчины вполне естественным образом доминируют над женщинами, мужчинами физического труда и рабами. Ниже в этой иерархии только животные, которые настолько лишены рассудка, что им просто необходимо, чтобы ими кто-то управлял.
Мы даже не заметили, как перешли от платоновской идеи о первичности рассудочного элемента к аристотелевской концепции, предполагающей совершенно естественной власть мыслящих мужчин.

Этот поезд интеллектуальной несправедливости до сих пор работает на топливе, которым его заправили два бородача 2000 лет назад. Современный австралийский философ Вал Пламвуд утверждает, что два гиганта греческой философии, вооружившись серией сомнительных дуализмов, умудряются по сей день влиять на наши представления о разуме.

За то, что мы воспринимаем отношения доминирования по праву умнейшего как совершенно естественные, нам стоит поблагодарить Аристотеля.

image

Декарт положил моральное начало истреблению планеты

Своего пика западная философия достигла вместе с трудами великого дуалиста Рене Декарта.

Если Аристотель признавал за животными хоть какое-то право на минимальную и примитивную, но всё же умственную деятельность, то Декарт отказывал им в этом праве полностью. Сознание, считал он, — исключительное преимущество человека.
Философия Декарта отражала тысячелетие христианской идеологии: она отдала разум в собственность душе, божественной искре, доставшейся только тем счастливчикам, кто создан по образу и подобию божьему.
image

Кант оправдал колониальную политику

Представление о том, что разум определяет человека, прошло и сквозь эпоху Просвещения. Иммануил Кант — пожалуй, самый влиятельный философ морали с античных времен — считал, что моральная воля свойственна только мыслящим существам: «лицам» и «вещам в себе». Немыслящие существа, по его мнению, имеют «только относительную ценность как средства и называются поэтому вещами». С ними можно делать то, что нам заблагорассудится.

Согласно Канту, разумное существо обладает достоинством, а неразумное, немыслящее к нему неспособно.

Такие умозаключения впоследствии превратились в краеугольный камень колониальной политики.
Логика такова: не белые люди менее умны; они не могут самостоятельно управлять собой и своими территориями. И это не только оправданный шаг, но и моральный долг любого белого человека — войти в их страну и уничтожить их культуру.

Эта же логическая конструкция отлично срабатывала на женщинах, которые считались слишком легкомысленными и хрупкими, чтобы разделять привилегии человека разумного.

Фрэнсис Гальтон — отец психометрики, псевдонауки по измерению разума, и двоюродный брат Чарлза Дарвина. Вдохновленный в свое время «Происхождением видов», Гальтон создал концепцию о том, что умственные способности передаются наследственным путем и их можно улучшить с помощью селекции.

Теоретическими выкладками Гальтон не ограничился: в последующие десятилетия более 20 000 женщин в одной только Калифорнии были стерилизованы после получения плохих результатов по тестам Гальтона

image

Так почему мы боимся умных роботов?

Вернемся к вопросу, заданному в начале статьи: почему же нас пугает возможность появления искусственного интеллекта? Не потому ли, что мы привыкли к тому, что более умный всегда доминирует, и мы точно не хотим оказаться по другую сторону баррикад?
Писатели и режиссеры уже давно строят догадки на тему восстания машин.

Если для нас естественна мысль о том, что сливки снимают умнейшие и что одна более развитая нация может колонизировать другую, мы вполне естественно боимся потенциального порабощения со стороны сверхумных машин. Искусственный интеллект представляет для нас экзистенциальную угрозу.

Для нас — это для белых европейских мужчин. Миллиарды других людей прошли через века подчинения, а многие продолжают сражаться с агрессорами и по сей день, поэтому для них угроза порабощения искусственным интеллектом остается фантастическим сюжетом.
Белые европейские мужчины же настолько привыкли находиться на вершине по праву принадлежности, что появление возможного соперника в нас отзывается хтоническим (иррациональным) ужасом.

Я не утверждаю, что страхи перед появлением сильного искусственного интеллекта беспочвенны. Существуют вполне реальные угрозы, но они не имеют ничего общего с колонизацией человеческой цивилизации роботами.

Вместо того чтобы думать, что нам делать с искусственным интеллектом, лучше думать о том, что нам делать с самими собой.

Если уж искусственный интеллект когда-нибудь сможет причинить нам вред, это почти наверняка произойдет не из-за стремления ИИ к завоеванию человечества, а по нашей собственной глупости, которая упустит ошибку. Бояться стоит не искусственного интеллекта, а естественной глупости.
Если бы общество было убеждено в том, что мудрейший человек — это не тот, кто добился власти, а тот, кто стремится разрешить конфликты, — боялись бы мы умных роботов больше, чем самих себя?

image

Автор: TerraHominem

Источник

* - обязательные к заполнению поля