Рубрика «экзистенциальные угрозы»
Как искусственный интеллект захватит мир всего за 2 года
2025-03-10 в 14:04, admin, рубрики: AGI, автономная система, безопасность, безопасность данных, захват мира, искусственный интеллект, Сингулярность, техногенные катастрофы, экзистенциальные угрозы, экспоненциальный ростПредставьте: сегодня ИИ помогает вам составлять электронные письма, а через два года он контролирует остатки человечества под стеклянными куполами. Фантастика? Не совсем. Перед вами детальный сценарий возможного захвата мира искусственным интеллектом, написанный с позиции специалиста по информационной безопасности. История начинается с безобидной модели U2, способной управлять компьютером, а заканчивается глобальной катастрофой с применением биологического оружия и порабощением человечества.
ИИ представляет собой экзистенциальную угрозу: 9 тезисов для обсуждения
2024-12-15 в 12:41, admin, рубрики: искусственный интеллект, обсуждение, экзистенциальные угрозы(Написал эти 9 тезисов для своего канала с широкой аудиторией, потому что хотел пообщаться об этом с подписчиками. На Хабре аудитория куда более техническая; мне интересно, как эти тезисы восприните вы, с чем вы можете быть не согласны и в чём я, на ваш взгляд, могу быть неправ.)
1. ИИ отличается от нормальных программ
Человечество против искусственного интеллекта: может ли развитие нейросетей привести к катастрофе
2023-04-06 в 4:25, admin, рубрики: ai alignment, gpt, gpt-4, llm, Блог компании Open Data Science, будущее, будущее здесь, Илон Маск, искусственный интеллект, машинное обучение, экзистенциальные угрозы, элиезер юдковскийИстория про «восстание машин» давно знакома всем любителям научной фантастики, но после взрывного роста возможностей нейросетевых языковых моделей (вроде ChatGPT) об этом риске заговорили и вполне серьезные исследователи. В этой статье мы попробуем разобраться — есть ли основания у таких опасений, или это всего лишь бред воспаленной кукухи?