Альтернативный исход создания сильного ИИ

в 7:53, , рубрики: искусственный интеллект, искуственный интеллект

Альтернативный исход создания сильного ИИ
(Omniscient one)

Наверное, на Хабре нету ни одного человека, который хоть раз не размышлял о возможном приближении технической сингулярности и создании сильного искусственного интеллекта, который и станет тем самым рубежом утопической реальности. Много книг было написано, много мыслей было высказано и еще больше было не понято. Каждый из вас, или, по крайней мере, большинство, является либо глубоко уверенным в альтруистических намерениях ИИ, либо считает, что создание этой же машины, программы, агента, позитронного мозга и т.д. станет точкой невозврата, после которой, по различным причинам, невозможность творения осознать всю ценность человечества, да и жизни в целом, приведет к истреблению нас самих и всего, что сможет хоть как-то помешать сверх интеллекту. Но что если есть альтернатива?

Что если искусственный интеллект не станет нашей гибелью, но и новым началом он тоже не станет? Что если желание помочь приведет к невозможности пренебрегать глубоко запрограммированными тремя законами? Мы окажемся в большой тюрьме, из которой буквально даже смерть не поможет выбраться. Задумайтесь, сколько болезней мы можем сегодня вылечить, сколько смертей или даже банальных травм мы можем избежать, пользуясь информацией и умело манипулируя ею. А теперь подумайте, что сможет с этой информацией сделать существо, которое многократно превосходит не то, чтобы любую форму жизни в разведанной Вселенной, но любой возможный симбиоз любой формы жизни. Имейте в виду, что у нашего ИИ только «одно на уме», сделать Людям хорошо. Скорее всего, если такая машина хоть немного выйдет из-под контроля, то все мы окажемся бессмертными существами, чьи желания будут беспрекословно выполняться раньше, чем мы сможем узнать, что мы чего-то действительно желали. Больше не будет смысла работать, искать ответы на вопросы, будь то философские размышления или физические наблюдения — за вас все сделают, вернее уже сделали. Больше не будет смысла жить.

Вы хотите стать красивее, умнее, сильнее, хотите буквально превратится в животное? – Спросите у ИИ. Наверняка к первой недели своего существования он уже обуздал и нано технологии и по N-ному разу пересмотрел биологическую структуру каждого организма, устранил все «баги», начертил новые планы и только ждет вашего разрешения. Он давно доделал машину, которая «елозит себе туда-сюда, выдавливая колбаски застывающей массы» (цитируя статью DenisVitman'a), или 3D принтер, как мы привыкли ее называть. На данном этапе ничего не мешает вам попросить его о персональной планете, с любым рельефом, флорой, фауной, видом в космос. Вы даже сможете создать условия, которые другие люди должны выполнить, чтобы посетить вас. Кроме того, он уже успел изобрести кучу технологий, который наш мозг просто физически не смог бы вообразить. Кстати, о физике, позволим себе немного пофантазировать. Наверняка вы слышали о Warp Drive’ах, которые согласно теории (в т.ч и «Относительности») могут перемещаться со скоростью выше скорости света.

Альтернативный исход создания сильного ИИ
(Warp Drive)

Если этот двигатель может быть построен, то он будет построен. Как думаете, на сколько меньше усилий уйдет на использования этого двигателя, как полноценного телепортатора? К этому моменту «мозг» нашего ИИ, наверное, превосходит по размерам всю нашу солнечную систему, а может и целое звездное скопление и находится он, наверное, где-то в Great Void’е.

Альтернативный исход создания сильного ИИ
(Great Void)

Хотя, к чему такому умному существу использовать брутфорсные методы? Как в «Последнем вопросе» Айзека Азимова, он мог бы додуматься, как можно хранить свой мозг на просторах между пространством и временем.

Вечно молодые, всезнающие, ничем не интересующиеся и самое главное не в состоянии умереть, ни завтра, ни через 1000 лет ни через любое другое кол-во времени. Мы можем, конечно, предположить, что когда-нибудь Вселенная либо остынет, либо сожмется назад к истокам и хочешь-не хочешь, но нашим страданиям придет конец. Но можем ли мы быть уверенными, что для нашего творения будет невозможно обернуть энтропию?

Автор: Arvardan

Источник

Поделиться

* - обязательные к заполнению поля