Рубрика «сверхинтеллект»
Бенчмарки AGI никогда не будут объективными
2026-05-18 в 9:01, admin, рубрики: AGI, arc-agi, General-Bench, ruvds_статьи, интеллект, когнитивная наука, личность, самосознание, сверхинтеллект, сильный ИИНейропокалипсис отменяется. Почему угроза со стороны ИИ это коллективная иллюзия?
2026-02-28 в 8:53, admin, рубрики: бог из машины, интеллект, искусственный интеллект, искусственный общий интеллект, искусственный сверхинтеллект, нейронные сети, общий искусственный интеллект, сверхинтеллект, Сингулярность, трансгуманизмИнтеллект человека веками преподносился как великая ценность, отделяющая нас от животных. Он был силой, ограниченной личными возможностями каждого. Но что, если мы никогда и не были умны? А виденье собственной исключительности прямо сейчас превращается в пыль, которую сдувают куллеры новых дата-центров. Стоит ли бояться Бога из Машины, и почему нет?
Сильный ИИ как фантазия. Теорема Теслера
2025-09-29 в 9:01, admin, рубрики: AGI, gemini, Grok 5, ruvds_статьи, сверхинтеллект, сильный ИИ, Сингулярность, теорема Теслера, технический прогресс
В 1841 году Чарльз Маккей опубликовал сборник исторических очерков «Наиболее распространённые заблуждения и безумства толпы». Сборник претерпел десятки переизданий и издаётся до сих пор.
Ведущий разработчик ChatGPT и его новый проект — Безопасный Сверхинтеллект
2025-04-07 в 9:01, admin, рубрики: 10x engineer, alexnet, AlphaGo, chatgpt, CUDA, DNNResearch, few-shot learning, Google Brain, gpgpu, gpt, gpu, Ilya Sutskever, ImageNet, lenet, Nvidia GTX 580, OpenAI, ruvds_статьи, Safe Superintelligence, seq2seq, TensorFlow, word2vec, Алекс Крижевски, Джеффри Хинтон, илья суцкевер, Компьютерное зрение, машина Больцмана, неокогнитрон, сверхинтеллект, Томаш Миколов
Многие знают об Илье Суцкевере только то, что он выдающийся учёный и программист, родился в СССР, соосновал OpenAI и входит в число тех, кто в 2023 году изгнал из компании менеджера Сэма Альтмана. А когда того вернули, Суцкевер уволился по собственному желанию в новый стартап Safe Superintelligence («Безопасный Сверхинтеллект»).
Илья Суцкевер действительно организовал OpenAI вместе с Маском, Брокманом, Альтманом и другими единомышленниками, причём был главным техническим гением в компании. Ведущий учёный OpenAI сыграл ключевую роль в разработке ChatGPT и других продуктов. Сейчас Илье всего 38 лет — совсем немного для звезды мировой величины.Читать полностью »
Экзистенциальные угрозы AI. Что ждёт человечество, если появится искусственный сверхинтеллект
2025-01-31 в 15:00, admin, рубрики: AGI, AI, будущее, ИИ, сверхинтеллект, суперинтеллект, философия, Философия ИИ, философия сознания
Разбираемся в философии сознания и попутно отвечаем на вопросы — возможен ли сверхинтеллект, и насколько опасно развитие AI
Искусственный интеллект и экзистенциальный кризис
2024-08-19 в 8:12, admin, рубрики: искусственный интеллект, нейросети, превосходство, работа нейросетей, развитие интеллекта, сверхинтеллект, суперкомпьютерСуществует пласт опасений, что искусственный интеллект способен стать угрозой существования человечества. При этом речь идет как о сценариях уничтожения в «пепле ядерной войны», так и «серой ассимиляции», что показал фильм «Превосходство». Но, согласно с новым исследованием, большие языковые модели (LLM) могут только следовать инструкциям, не могут самостоятельно развивать новые навыки и по своей сути «контролируемы, предсказуемы и безопасны», что звучит как хорошая новость для нас, мешков с мясом.
Учёные доказали, что сдерживание сверхинтеллекта — невычислимая задача
2021-03-22 в 8:20, admin, рубрики: AI, Блог компании VDSina.ru, будущее здесь, вред человечеству, ИИ, искусственный интеллект, компьютерная симуляция, научная фантастика, Научно-популярное, обезьянья лапка, обучение, проблема вреда, проблема остановки, программирование этики, сверхинтеллект, Сверхразум, сдерживание ИИ, тезис Чёрча-Тьюринга, три закона робототехники
Обучение искусственного сверхинтеллекта
Идея сверхинтеллекта не даёт покоя учёным. Некоторые высказывают предположение, что сверхинтеллект не обязан благоприятно относиться к людям, может быть к ним равнодушен, не учитывать их интересы. Что делать в такой ситуации? Точнее, как её предотвратить?
Один из вариантов — контролировать действия сверхинтеллекта, разрешая только такие действия, которые идут на благо человечества. К сожалению, теперь выясняется, что это невозможно. Оказалось, что сдерживание сверхинтеллекта — невычислимая задача.
Читать полностью »
Сверхинтеллект: идея, не дающая покоя умным людям
2018-12-12 в 7:00, admin, рубрики: алармизм, иион, искусственный интеллект, киборги заполонили планету, научная фантастика, Научно-популярное, Ник Бостром, паника, сверхинтеллект, терминатор
Расшифровка выступления на конференции Web Camp Zagreb Мачея Цегловского, американского веб-разработчика, предпринимателя, докладчика и социального критика польского происхождения.
В 1945 году, когда американские физики готовились к испытанию атомной бомбы, кому-то пришло в голову спросить, не может ли такое испытание зажечь атмосферу.
Опасение было оправданным. Азот, из которого состоит большая часть атмосферы, энергетически нестабилен. Если столкнуть два атома достаточно сильно, они превратятся в атом магния, альфа-частицу и выпустят огромную энергию:
N14 + N14 ⇒ Mg24 + α + 17,7 МэВ
Жизненно важным вопросом было то, может ли эта реакция стать самоподдерживающейся. Температура внутри шара ядерного взрыва должна была превысить всё, что когда-то наблюдалось на Земле. Не получится ли, что мы бросим спичку в кучу сухих листьев?
Читать полностью »
Культ карго для ИИ: миф о сверхчеловеческом искусственном интеллекте
2017-05-19 в 10:34, admin, рубрики: будущее здесь, ии общего назначения, искусственный интеллект, сверхинтеллект, Сверхразум, слава роботам, метки: сверхразум
Я слышал, что в будущем компьютерные ИИ станут настолько умнее нас, что отнимут у нас все рабочие места и ресурсы, а люди вымрут. Так ли это?
Это самый частый вопрос, который мне задают на моих выступлениях по поводу ИИ. Задающие его люди искренне волнуются, и их беспокойство происходит от других людей – экспертов, задающихся тем же самым вопросом. Среди них можно встретить умнейших из живущих сегодня людей – это, к примеру, Стивен Хокинг, Илон Маск, Макс Тегмарк, Сэм Харрис и Билл Гейтс, – и все они верят в возможность такого сценария. На недавней конференции, посвящённой проблемам ИИ, комитет из девяти наиболее сведущих в области ИИ людей согласился, что скорого появления сверхчеловеческого ИИ нам не избежать.
Читать полностью »