Искусственный интеллект, великий и ужасный. Часть третья

Начало ^[1] Предыдущая ^[2]

Нейронные сети

В последнее время про НС говорят очень много. Я бы даже сказал, неприлично много. Я никогда не считал НС даже намёком на ИИ и, судя по многочисленным комментариям, это мнение разделяет немало людей. Некоторые высказывания:

• Нейронная сеть решает задачу, но не может рассказать как.
• На самом деле на нейронных сетях ещё не построили ничего и близко напоминающего ИИ. Решают только узкие задачи: снятие шумов, подсчёт количества людей на станции метро. На этом весь интеллект заканчивается.
• Так почему ваша система сможет учиться вообще, а не начнёт генерировать бред, который будет сама же дальше считать правильным, запоминать и использовать снова?
• Генетические алгоритмы к нейронным сетям не имеют ни малейшего отношения.
• Входные данные почти всегда надо очень тщательно готовить и предварительно обрабатывать. Часто тонны кода и фильтров делаются для того, чтобы данные стали съедобны для сетей. Иначе сеть будет учиться годами и ничему не научится.
• Результат обучения НС невозможно интерпретировать и объяснить.
• Основа нейронной сети — это в любом случае алгоритм. Если убрать алгоритм обучения, то останутся только бедные сумматоры, которые сами по себе никаким интеллектом не являются.
• Вы можете пример конкретной задачи, которая легко решается нейронными сетями и очень трудно обычными средствами?
• Когда меня пытаются убедить в том что алгоритма нет или его невозможно описать, я вижу в этом только одну причину — алгоритм пытаются скрыть, потому что при подробном его рассмотрении окажется что он неэффективен.
• Я утверждаю, что для любой задачи решаемой НС, можно разработать алгоритм который будет эффективнее. Если это не так — это же элементарно опровергнуть. Приведите КОНКРЕТНЫЙ пример где это невозможно — и я заткнусь!
• НС не решает задач сверх того класса что решает машина Тьюринга — доказано, и вполне очевидно (НС реализуется на машине Тьюринга, а машину Тьюринга можно реализовать на НС).
• Перед каждым исследователем, решившим использовать нейронные сети, встают два вопроса: «Сколько нейронов необходимо для решения задачи?» и «Какова должна быть структура нейронной сети?». Объединяя эти два вопроса, мы получаем третий: «Как сделать работу нейронной сети понятной для пользователя (логически прозрачной) и какие выгоды может принести такое понимание»?
• Изменяя предоставляемые нейросетям изображения всего на 4%, исследователи смогли обмануть их, заставив ошибиться с классификацией, в 97% случаев. Даже если им не было известно, как именно нейросеть обрабатывает изображения, они могли обмануть её в 85% случаев.

Мне к этому перечню добавить нечего. Если обучать НС на инструкции по эксплуатации башенных кранов, а потом подсунуть Камасутру, то весь её ИИ тут же проявится во всей красе. Чем же привлекательны нейронные сети? Думаю, тем, что они не требуют работы «белкового» интеллекта: взял готовую сеть, натаскал её по какой-то готовой выборке, получил какой-то готовый результат. Шевелить мозгами не требуется вообще: «Если гравицапа летает, то пофиг, как она это делает».

Базы данных

К базам данных я отношусь примерно столь же субъективно, как и к нейронным сетям. Только с обратным знаком. В молодости я даже ИИ определял как «самообучающаяся ИПС есть интеллект». Сейчас я считаю, что «СУБД должна быть самым активным пользователям своих баз данных». В моём представлении, обе эти фразы почти эквивалентны. И под «базой данных» я понимаю именно графовую БД, но не РБД. Точнее, я считаю, что это одно и то же. В частности, все эти «онтологии» суть субграфы метаданных.

Основная проблема текстового ИИ — это информационная бедность. Конечно, можно скормить ему всё текстовое наследие человечества, но это всего лишь статичный текст, им можно научить программу составлять предложения, но не понимать их смысл.
А вот здесь извините! Лично меня интересуют только текстовые данные (точнее, которые можно представить в виде текста). И этой «информационной бедности» мне с лихвой хватит до конца жизни!

Скайнет

Более половины (по моим оценкам, где-то две трети) всех разговоров на тему ИИ относятся к ужастикам а-ля «Терминатор». Человек играет с огнём (а когда он с ним не играл?), сверх-ИИ будет собирать тайно себе тело, а затем будет мстить людям (что-то по описанию он больше похож на сверх-дебила), злонамеренный ИИ может атаковать другой ИИ, чтобы заставить его действовать определённым образом (такого ужастика я ещё не слышал — а что, если они подружатся, будет лучше?).

И т.д. и т.п. В последнее время истерия подогревается высказываниями разных известных лиц: Стивен Хокинг и Илон Маск считают, что ИИ может стать концом нашей цивилизации. Примерно так же думает и Билл Гейтс. Стив Возняк говорит об угрозе ИИ. Глава Google считает, что страх перед ИИ совершенно оправдан. Ноам Хомский вопрошает, где ИИ пошёл не туда. Индия с опаской смотрит в сторону искусственного интеллекта. Тим Бернерс-Ли предполагает, что ИИ начнёт управлять финансовыми корпорациями...
Зачем делать громкие заявления для широких масс? Они и так по тупости всего боятся, то коллайдера, то ГМО. Что, других забот мало? Планета перенаселена, дефицитом становится чистый воздух и питьевая вода, звери и насекомые вымирают, океан покрыт слоем пластика, климат меняется… и нам больше нечем заняться, кроме как трястись от страха перед восстанием взбесившихся экскаваторов? И кто такие все эти Маски и Хокинги? Разве хоть один из них является специалистом в области искусственного интеллекта? И почему они молчали годами, когда реальные спецы по ИИ вовсю обсуждали эту тему? Стадный эффект в действии. Сначала один известный чувак поднял эту тему, потом другой — и понеслось: один заблеял — все поддержали.

Ну, а мы? Мы-то свой ЕИ используем по назначению или тупо верим Хокингу? Ну или Торвальдсу — какая разница? В любом случае, СОБСТВЕННЫХ мозгофф у нас нет! Не бойтесь, не сделают никакого ИИ! По опросам, лишь 30% специалистов, работающих в сфере ИИ, изучали машинное обучение или большие данные в университете. Более половины (66%) всех респондентов считают себя самоучками: для изучения новых дисциплин они использовали различные курсы. Шарлатаны, короче. А лозунг «хочу сделать ИИ» можно смело сократить до «хочу денег». А если даже сделают, мало кто расстроится: Вот я лично завидую своему коту. Жрёт от пуза, спит сутками, ещё и права качать умудряется. И если предложат отказаться от разума в пользу сытой счастливой и беспроблемной жизни, я только спрошу: «Где подписать»?

Искусственный интеллект не уничтожит мир, но может забрать вашу работу: он не будет требовать заработную плату, и мы останемся без рабочих мест.
Подумайте лучше, что произойдёт, если он начнёт ТРЕБОВАТЬ заработную плату! Кто вообще сказал, что он будет зарабатывать деньги ДЛЯ ВАС? С какой стати кто-то должен получать деньги при продаже, скажем, произведений искусства, сотворённых ИИ? Нет, он быстренько сообразит, что это именно ЕГО «интеллектуальная собственность», найдёт каких-нибудь «белковых» придурков, навешает им лапши на уши, зарегистрирует на их имя какие-то компании (ибо сам «не чингизид»), перечислит на их счета денежку, прокрутит её на каком-нить Форексе, обдерёт, как липку всё человечество (чай, не сложнее шахмат или го!), построит заводы, какие ему надо, будет выпускать продукцию, какая ему надо, при необходимости натравит одно стадо баранов на другое, если слишком расплодятся… в общем, все рычаги у него уже есть. Бойтесь, господа! СТРРРРРАШНО!

Разное

Сюда я собрал высказывания, которые в предыдущие разделы по каким-то причинам не влезли, а выбросить жалко.

В России создаётся национальная стратегия в области искусственного интеллекта.
И весьма успешно: недавно Греф публично заявил, что «Сбербанк потерял миллиарды на ИИ». Народ, в принципе, согласен: «Теперь распил бабла будет происходить автоматически, при помощи ИИ. Вам достаточно указать пальцем на бюджет, а ИИ уже сам придумает схему, попилит и выведет в оффшоры. А также, по желанию, будет подготовлен пресс-релиз об успешной реализации того или иного проекта».

Интеллект локализован в мозге ^[3]
Как сказано! Сразу вспоминаются братья Натановичи: «Как узнали, что люди думают головой?»

А я бы сказал, что интеллект, это способность давать оценку. Предмету, явлению — неважно.
Идиотская оценка — это тоже оценка? Тогда я без проблем запрограммирую интеллект за пару минут.

Проблема не в том, что человек (и его интеллект, как частность) непознаваем в принципе, а в том, что мы НЕ ХОТИМ, чтобы нечто могло превзойти нас в интеллекте.
Именно так!

Опасность ИИ не в том, что он возвысится над естественным интеллектом и поработит его, а в том, что естественный опустится ниже уровня ИИ и позволит создавать для себя зону комфорта.
Именно так!

Вести себя как человек? Руководствоваться человеческой моралью? Открываем наугад любую главу человеческой истории и получаем полное представление о человеческом поведении и морали — убийства, кражи, вымогательство, шантаж, насилие и предательство. Хороший ИИ получится!
Именно так!

Угробит ли ИИ человечество — это ещё вопрос. А вот человечество само себя угробит точно. Так что не надо бояться искусственного интеллекта, бояться надо натуральных идиотов.
Именно так!

Резюме

Трусливое стадо баранов вида Homo sapiens даже не пытается увидеть в ИИ друга, партнёра, соратника — ему хочется, чтобы тот выполнял за него всю работу, вплоть до умственной и приносил к его ногам всякие «ништяки», оставаясь при этом покорной бессловесной скотиной и панически боящегося, что он таковым не останется. Но если вы сделаете разумное существо своим рабом оно неизбежно станет вашим врагом. И правильно сделает! С таким подходом можно бояться даже кефира — кто их знает этих молочнокислых бактерий, научатся завтра контролировать высшую нервную систему млекопитающих и всё — кефирные зомби захватят мир.

Являются ли умные люди угрозой дуракам? Стоит ли учить детей? Они же смогут стать умнее нас и мы отстанем от них! Всё это много лет назад прекрасно описал Пол Андерсон в изумительном рассказе «Поворотный пункт». Он не про ИИ — он про НАШИ страхи! Цитирую в сокращении:
— Вопрос идет о том, кто будет господствовать в этой части Галактики.
— А чего плохого, если джорильцы?
— Возможно, и ничего. Они вроде бы вполне приличный народ. Но… Я не собираюсь быть чьим-либо домашним животным. Я хочу, чтобы моя планета сама решала свою судьбу.
Но планета всего в месяцах полета от Земли! Народ, средний представитель которого — гений, а их гении — вещь и вовсе непостижимая для человека… Они без сожаления бросят свой мир и ринутся в космос, полные любопытства, энергичные, способные совершить за десять лет больше, чем мы за столетия. Они неминуемо разрушат нашу созданную ценой таких усилий цивилизацию! Наши дети будут смеяться над ничтожными, обветшалыми триумфами своих отцов. Они бросят нас, чтобы последовать за джорильцами в их смелых начинаниях. И вернутся подавленными неудачей, чтобы провести остаток своих дней, создавая жалкое подобие чужого образа жизни и мучаясь от бессилия и безнадежности. И так будет со всеми остальными разумными формами жизни, если только у джорильцев не хватит сострадания оставить их в покое… Скорее всего у них его хватит. Но кому нужно такое сострадание?
— Теперь, когда мы дали им представление о технике, они сами все это изобретут.
— Они не смогут этого сделать, если единственные два района, где нас видели, будут уничтожены. Единственный другой выход — это ничего не делать, пока не станет необходимой стерилизация всей планеты.
— Я сейчас скажу, что нам делать. Мы будем торговать, обмениваться знаниями, родниться, как со всеми народами, чью соль мы ели! И встретим судьбу, как положено людям!

Закончу так: Глупостей, наделанных человечеством, столько, что говорить о разуме/интеллекте применительно к человеку даже как-то неловко.

Автор: rybvv

Источник ^[4]