Откуда вообще взялся этот вопрос
У меня этот вопрос начался не с книг и теорий, а почти с пейзажа за окном.Читать полностью »
У меня этот вопрос начался не с книг и теорий, а почти с пейзажа за окном.Читать полностью »
Разговор о сверхразумном ИИ почти всегда быстро сворачивает к одному вопросу: уничтожит ли он человечество? Если вы смотрели интервью Романа Ямпольского, вы знаете эту интонацию — сверхИИ может оказаться неконтролируемым и непредсказуемым, а попытка удержать его под контролем будет похожа на попытку муравья судить футбольный матч.
Тревога не глупая, и риск уничтожения обсуждать нужно. Но у такой постановки есть дефект: она делает будущее бинарным. Либо ИИ нас убивает, либо мы выживаем. А между этими двумя исходами лежит куда более широкая и куда менее уютная зона.

Рекомендую сначала прочитать приквел 1: https://habr.com/ru/articles/1010440/
СЕЗОН 0.5. ЭПОХА ТРАНЗИТА
Эпизод 1. Низкоуровневое счастье
Она решилась в тот день, когда перестала чувствовать пальцы.
Не сразу. Сначала думала, отлежала, затекла рука. Но пальцы не слушались. Она смотрела на свою ладонь и пыталась шевелить ими. Пальцы двигались. Но она их не чувствовала.