Слева: древнеримский мост через реку Тахо в испанском городе Алькантара, построенный в 106 году. Справа: отряд муравьёв, формирующих мост. Источник: статья Ха и Танга про коллективный интеллект ИИ-агентов (doi: 10.48550/arXiv.2111.14377)
Влияние ИИ на человеческое общество ощущается уже сейчас. Во-первых, дата-майнинг и нейросети всё активнее используются в сфере управления. Обычному человеку не очень приятно осознавать, что его босс — алгоритм, который оценивает качество работы, выписывает премии и может уволить в любой момент. Но такова жизнь.
▍ Незаметное влияние
Во-вторых, внедрение алгоритмических рекомендаций. Алгоритмы по сути определяют, какие новости читать, какое видео смотреть и т.д. Они уже влияют на человеческую культуру и поведение. Конечно, эти алгоритмы написаны людьми — и корпорации пока теоретически могут ими управлять и корректировать на своё усмотрение. Но мы близки к тому моменту, когда некоторые из этих систем начнут работать по принципу «чёрного ящика». То есть разработчики не смогут их понимать и корректировать.
Понятно, что ИИ радикально изменит общество. Вопрос, как именно это произойдёт и когда.
Есть мнение, что технологии развиваются как живой организм. Они хотят того же, что и живые существа (жить, размножаться), эволюционируя и сопротивляясь своему уничтожению. Это практически закон природы. Таким образом, ИИ распространится и будет везде, как воздух, компьютеры и интернет. Остановить этот процесс практически невозможно.
К каким результатам это приведёт? Давайте рассуждать логически. Мы знаем, что умные люди добиваются больших успехов в жизни, чем глупые. Умные превосходят глупых практически во всём: в науке, бизнесе, культуре, философии, строительстве, транспорте, этике и морали, романтических делах, на войне. Применение IQ напрямую коррелирует с качеством жизни.
Никто не будет спорить, что за последние несколько тысяч лет благодаря научно-техническому прогрессу уровень и стандарты жизни выросли на порядок. Сейчас темпы ещё ускорились. Там, где внедряются технологические инновации — цены падают (то есть блага становятся более доступными), где нет — цены растут.
Это прямая взаимосвязь между инновациями (как производной от IQ) и качеством жизни.
Конечно, с повышением жизненного комфорта растёт количество психических заболеваний, самоубийств, ожирения и т. д. Лёгкая жизнь — не всегда синоним счастливой жизни, а часто наоборот. Тем не менее, прогресс идёт именно в том направлении, чтобы избавлять человека от любых трудностей.
Какой из этого вывод? Появление в нашем распоряжении в тысячу раз более умного инструмента должно ускорить развитие цивилизации — и, соответственно, многократно улучшить качество жизни. Всё логично. Вот лишь некоторые очевидные прогнозы того, как изменится жизнь после небольшой доработки существующих технологий, по мнению Марка Андрессена:
- У каждого ребёнка будет персональный ИИ-наставник, бесконечно терпеливый, максимально информированный и полезный. Он будет помнить все беседы с ребёнком от 0 до 18 лет, помогая ему максимально раскрыть свой потенциал. ИИ уже на наших глазах меняет индустрию образования.
- Аналогично, у каждого взрослого будет помощник/тренер/наставник/инструктор/советник/терапевт с такими же качествами и памятью.
- У каждого учёного появится помощник/сотрудник/партнёр в лице ИИ, который значительно расширит сферу его научных исследований и достижений. Каждый художник, каждый инженер, каждый бизнесмен, каждый врач будут иметь то же самое. Такие же советники появятся у учителей, тренеров, чиновников, президентов корпораций, президентов стран. Это снизит количество необдуманных глупых решений практически до нуля.
- Резко ускорится рост производительности труда в экономике, что приведёт к экономическому росту, созданию новых отраслей, появлению новых рабочих мест, росту зарплаты.
- Увеличится количество научных открытий, новых технологий и лекарств.
- В искусстве наступит золотой век, поскольку художники, музыканты, писатели и кинематографисты с помощью ИИ получат возможность реализовать свои идеи гораздо быстрее и в бóльших масштабах.
Одним словом, практически все существующие сферы деятельности станут лучше. Более того, мы сможем решать новые задачи, которые раньше было невозможно решить без ИИ.
Речь не только о повышении IQ человечества, но также о повышении гуманизма, эмпатии. Мы видим, что чатботы-компаньоны (консультанты, романтические партнёры, врачи) способны проявить к людям гораздо больше сочувствия, чем их человеческие коллеги. Возможно, программы ИИ сделают мир теплее и добрее.
И такие изменения произойдут повсеместно. Проблема в том, что людям свойственно оставлять без особого внимания положительные события и изменения вокруг — и остро реагировать на негатив, неприятные события, мысли и др. (т. н. селективное внимание к негативной информации). Поэтому вполне логично, что внимание специалистов и общества больше сконцентрировано на потенциальной опасности применения ИИ, а не на преимуществах. Такая же моральная паника происходила после изобретения электричества, радио, телевидения, интернета и т. д.
Страх новых технологий вынуждает некоторых технофобов призывать к запрету на разработку ИИ, вплоть до ядерных ударов по дата-центрам, если обычная бомбардировка не даст результат:
Вероятно, бомбить будут ДЦ с ИИ, который не приведён в соответствие с человеческими ценностями. Выравнивать ИИ хотят по четырём уровням ценностей.
Четыре уровня «воспитания» ИИ в соответствии с человеческими ценностями (AI Alignment), из документа
Такой подход предполагает, что ИИ заведомо не соответствует человеческим ценностям, поощряя моральную панику. Негативный биас усиливается в СМИ, которые эксплуатируют это когнитивное искажение — и фокусируются на негативных новостях. Устрашающие картинки сильнее всего привлекают внимание:
Пугающая иллюстрация из статьи WSJ о технологиях машинного обучения
Чем больше страха у читателей, тем больше переходов по ссылкам, больше просмотров и рекламных доходов СМИ.
▍ Будущее войны
По мнению некоторых военных специалистов, внедрение сильного ИИ в различные виды вооружения повлечёт катастрофические последствия. Дистанционно управляемые и автономные боевые системы ИИ найдут широкое применение: «В конце концов, люди всё равно будут принимать ключевые решения о вступлении в войну, об оперативном плане, но нам необходимо найти другой баланс в отношениях с этими автономными системами… Они будут присутствовать во всех областях. Станут вездесущими. И нам предстоит разобраться с этим, — говорит бывший генерал австралийских ВС Мик Райан (Mick Ryan). Он считает наиболее вероятным сценарий роботизированной агрессии со стороны Китая, который в последнее десятилетие активно инвестирует в разработку ИИ и наращивает вооружение.
Вышеупомянутый Марк Андрессен считает, что внедрение ИИ на войне станет благом, ибо резко уменьшит смертность. Грубо говоря, воевать будут роботы против роботов, а не люди.
Разведывательный беспилотник Black Hornet 3 весом 33 г
Впрочем, из истории напрашивается скорее обратный вывод: благодаря техническим инновациям количество жертв в современных войнах растёт (40 млн в первую мировую, 70–85 млн во вторую).
Есть позитивный сценарий, что благодаря внедрению сильного ИИ и коллективного интеллекта необходимость войн можно свести на нет. Любая война характеризуется ужасными решениями, принимаемыми под сильным давлением в условиях резко ограниченной информации лидерами с ограниченным IQ. В будущем у военных командиров и политических лидеров появятся ИИ-советники, которые помогут принимать гораздо более правильные стратегические и тактические решения, сводя к минимуму риск, ошибки и ненужное кровопролитие.
В негативном сценарии кровожадные диктаторы, конечно, используют любое новое изобретение для агрессии против «врагов» (враги у такого режима есть всегда).
▍ Будущее программирования
У разработчиков появился новый эффективный инструмент, который уже сейчас в некоторых узких областях генерирует на 100% валидный код, а в целом может использоваться также для генерации тестов, поиска ошибок, рефакторинга, поиска уязвимостей и десятков других задач.
Конечно, синтез программ был активной областью исследований со стародавних времён. Даже синтез программ из спецификаций на естественном языке не является чем-то новым, также как нейронный синтез программ и синтез программ по поведению других программ без примеров кода. Все эти исследования велись до появления LLM.
С другой стороны, ИИ — это фундаментальная технология. Сегодня любой желающий может скачать обученную модель LLaMA 2, Falcon, StableLM, Vicuna, LongChat или другую, снять верхний слой и настроить её на собственном датасете, запустив локально на своём ПК. Это принципиально новые возможности, недоступные ранее.
▍ Единственный выход?
Что глобально ожидает человечество в далёком будущем через несколько десятилетий или столетий? Это не обязательно апокалипсис и война против роботов, как показывают в кино. Скорее наоборот. Возможно, только ИИ способен спасти нашу планету от ядерной войны и глобального потепления. Может быть, это вообще единственный выход для нас.
По сценарию AGI Simulator, через несколько десятилетий программы ИИ будут избираться на управляющие посты корпораций и стран, что резко повысит эффективность управления обществом, уровень благосостояния, счастья населения и научно-технического прогресса.
Прогресс в сфере ИИ с первой работы Мак-Каллока 1943 года идёт по экспоненте — сейчас за один год у нас столько открытий, как раньше за десятилетие. Так что в этом смысле наступление технологической сингулярности опять кажется вероятным исходом.
По нынешнему вектору развития цивилизации (с агрессивными лидерами, животными инстинктами, конкуренцией, борьбой за ресурсы) вероятность самоуничтожения кажется довольно высокой. Если на Часах Судного дня до полуночи осталось полторы минуты, глобальное потепление входит в необратимую фазу, а люди всерьёз обсуждают вероятность ядерной войны и выживания в бункерах, то что мы теряем?
Telegram-канал с розыгрышами призов, новостями IT и постами о ретроиграх 🕹️
Автор: Анатолий Ализар
