Singularity-дайджест — подборка эссе о будущем в эпоху искусственных нейросетей

Китайские комнаты нейросетей на всех парах изрыгают ремиксы и компиляции. За потоком картин в стилях классиков, фактов о лягушках и синтетических мелодий скрывается нечто. Нечто готовое рвануть в превосходящем масштабе ещё до того, как стихнет эхо первого информационного взрыва.

Неумолимая машина по приумножению информации уже тикает. Мануфактуры сетевых троллей, гострайтеров и копирайтеров сменяет блестящий автоматизированный конвейер — на дворе заря мгновенной промышленной революции в разрезе массовой культуры.

Последствия будут похожи если не по сути, то по масштабу. Получим ли мы генератор бесконечного инфошума? Катализатор для культурной и научной революции? Досрочную зарю сингулярности ^[1]? И то, и другое, и третье?

Оценить возможные последствия, все равно что представить масштабы космоса. Упираешься в стену благоговения на границе осознания. Со временем все окажемся по ту сторону, но пока что эксперты пытаются описать будущее с разных ракурсов:

• Третья магия ^[2] (eng) — размышления о том, какое влияние нейросети могут оказать на прогресс. Первая «магическая» сила, человечества в интерпретации автора — это способность записывать и кодировать знания в языке, вторая — научный метод, как способность добыть знания, проверить и применить их. Третьей, как он утверждает, будет способность интерпретировать чрезвычайно сложные и взаимосвязанные события, наборы данных и экстраполировать их с определенной степенью точности, даже не понимая, почему прогнозы верны.

• Расширяющийся темный лес и генеративный ИИ ^[3] (eng) — описывает то, как алгоритмы уже сейчас захватывают Интернет и вытесняют из него людей.

• The Great Logging Off ^[4] (eng) — что произойдет, когда большая часть онлайн-контента сбудет создаваться машинами? Автор утверждает, что многие люди, особенно те, кто может себе это позволить, уйдут из глобальной сети.

• Конец программирования ^[5] (eng) — а что, если общепринятый подход к написанию программ находится на грани исчезновения, и все, кроме очень специализированных приложений, будет заменено системами, которые обучаются, а не программируются?

• Жизненный цикл неудобных технологий ^[6] (eng) — крупные технологические сдвиги вызывают сопротивление, страх и отторжение у многих людей, но это уже происходило раньше, и у нас есть дорожная карта.

• Подводные лодки умеют плавать? ^[7] (eng) — предсказывала ли научная фантастика, что ИИ, будет ненадежным, часто нелогичным и даже брехливым? В художественной литературе это предзнаменование чего-то очень неправильного: ИИ сломался или стал злым. Но в 2023 году это кажется нормальным режимом работы чат-ботов с искусственным интеллектом, таких как ChatGPT или Sydney. Современный ИИ склонен к дикому полету воображения, но иногда не может сделать простых логических выводов. Но это же компьютер, машина, буквально состоящая из логики! Это повод тщательно обдумать, что умеет ИИ, а что нет, чтобы понять его потенциал без неуместной антропоморфизации.

• ChatGPT — это размытый JPEG в интернете ^[8] (eng) — статья писателя Теда Чана, где он рассматривает языковые модели, как об алгоритмы сжатия с потерями.

• ChatGPT для робототехники ^[9] (eng) — исследователи из Microsoft пишут о том, как с помощью ChatGPT управляют такими платформами, как роботы-манипуляторы, дроны и роботы-помощники.

• Роботы показывают нам, кто мы ^[10] (eng) — чему мы можем научиться у машин с воображением и культурой? Интервью с Аланом Уинфилдом об этике искусственного интеллекта и использовании машин для ответов на вопросы о «разуме, эволюции, жизни и культуре».

• Преподавание с помощью ChatGPT ^[11] (eng) — было интересно наблюдать за волной апокалиптических заголовков, связывающих ChatGPT c крахом всей системы образования. Сейчас, когда пена улеглась, некоторые педагоги пишут, что эта технология является огромным благом, а не экзистенциальной угрозой для их профессии. Это одна из таких статей, в которой Томас Рид пишет об опыте прохождения курса по анализу вредоносных программ, который учитель решил вести «совместно» с ChatGPT — здесь много интересных примеров использования.

• Представьте, что безграничное творчество у вас под рукой ^[12] (eng) — древние философы перевернутся в гробу, но чтобы заниматься творчеством — генерировать что-то новое — нужен только правильный код. Мы можем встроить его в крошечные устройства, которые пока бездействуют, или применить творческий подход к большим статистическим моделям или внедрить творчество в процесс поиска лекарств. Для чего еще мы можем использовать синтетическое творчество?

• Когда машины меняют искусство ^[13] (eng) — в истории уже появлялись технологии, которые меняли то, как мы создаем искусство. Некоторые из них автоматизируют (или кажется, что автоматизируют) этапы художественного процесса. Что общего у них и современных нейросетей?

• Страх простоты ^[14] (rus) — Михаил Калашников о том, почему генеративные нейросети пугают людей. Никто же не боится роботов-пылесосов.

• Самый важный век ^[15] (eng) — серия статей о том, почему XXI век может стать самым важным веком для человечества. Автор утверждает, что развитие передовых систем искусственного интеллекта приведет к взрывному росту и научному прогрессу, ведущему нас в будущее, которое невозможно представить.

• Роботы сделают нас лучше ^[16] (eng) — Основная причина, по которой мы миримся с потоком технологий, постоянно приносящем новые вызовы, в том, что технологии делают нас лучше. Так было всегда.

P.S. Хотите знать больше? Читайте телеграм ^[17].