- PVSM.RU - https://www.pvsm.ru -
В мире всё больше людей говорит о необходимости контролировать развитие искусственного интеллекта (ИИ). И это не только медийные персоны и обыватели. С такими заявлениями выступают и профильные специалисты. Специалист в области искусственного интеллекта Елиэзер Юдковский (Eliezer Yudkowsky) заявил, что нужно ограничить вычислительные мощности для обучения ИИ по всему миру. А для этого, по его словам, можно даже бомбить слишком мощные центры обработки данных на территории других стран.
По мнению Юдковского, выживание человечества и биологической жизни вообще на данный момент находятся в потенциальной опасности из-за развития ИИ, причём этот процесс никак не контролируется. Эксперт считает, что появление полноценного ИИ, способного осознавать себя, угрожает всем.
По словам специалиста, нужно запретить эксперименты с ИИ всем компаниям, кроме государственных и военных ведомств, а ЦОД-ы-нарушители он предлагает бомбить, поскольку любой конфликт между странами будет менее разрушительным, чем война людей с ИИ.
При этом примечателен тот факт, что Елиэзер Юдковский сделал очень много для ускорения развития «общего искусственного интеллекта» (AGI), которой, потенциально, может осознать себя на каком-то этапе.
Подобные вопросы задают и другие. В сети опубликовано открытое письмо [2], авторы которого предлагают ввести мораторий минимум на 6 месяцев, чтобы отсрочить появление ИИ, более мощного, чем GPT-4. Юдковский положительно оценил эту инициативу, хотя сам и не подписал письмо. А вот Илон Маск (Elon Musk) и другие специалисты в сфере ИИ подписали его.
Также ранее в OpenAI опубликовали [3] ряд критериев для ИИ, которые могут помочь в регулировании этой сферы.
Источник [4]
Сайт-источник PVSM.RU: https://www.pvsm.ru
Путь до страницы источника: https://www.pvsm.ru/news/383782
Ссылки в тексте:
[1] Image: https://www.pvsm.ru/img/n1/news/2023/2/5/ixbtmedia_superhuman_artificial_intelligence_destroys_people_5650c15e-8718-413d-aff5-f78e38e11dc0_large.png
[2] открытое письмо: https://www.ixbt.com/news/2023/03/29/ilon-mask-stiv-voznjak-i-eshe-tysjacha-jekspertov-v-oblasti-ii-prizvali-kak-minimum-na-polgoda-ostanovit-obuchenie-ii.html
[3] опубликовали: https://www.ixbt.com/news/2023/02/25/trjoh-zakonov-robototehniki-uzhe-ne-hvataet-v-openai-predlozhili-novye-principy-dlja-kontrolja-razvitija-ii.html
[4] Источник: https://www.ixbt.com/news/2023/03/31/specialist-po-ii-prizval-bombit-slishkom-moshnye-cody-chtoby-ogranichit-obuchenie-iskusstvennogo-intellekta.html
Нажмите здесь для печати.