Крупнейшие ИТ-компании не дадут ИИ вырваться из-под контроля человека

в 13:36, , рубрики: Google, microsoft, будущее, будущее здесь, искусственный интеллект, Научно-популярное, этика

Крупнейшие ИТ-компании не дадут ИИ вырваться из-под контроля человека - 1

Искусственный интеллект — предмет большого количества дискуссий в научном и мире. Специалисты многих стран работают над созданием искусственного разума, который мог бы превзойти своего создателя. Некоторые ученые считают, что ИИ — это благо. Других специалистов сильная форма искусственного интеллекта пугает. В прошлом году бизнесмены, ученые, эксперты в сфере робототехники и других сферах подписали открытое письмо, в котором предостерегают производителей оружия от разработки боевых систем со 100% автономностью. В числе подписавшихся: Илон Маск, Стивен Хокинг, Ноам Хомский, Стив Возняк.

Многие аспекты проблемы искусственного интеллекта отображены в сюжете ряда фильмов, описаны в научно-фантастических произведениях. По словам ученых, решать возникающие вопросы нужно до появления сильной формы ИИ, то есть сейчас. Крупнейшие технологические компании, включая Google, Microsoft, IBM сейчас ведут работу по созданию искусственного интеллекта. Для того, чтобы не дать искусственному интеллекту выйти из-под контроля, Google, Amazon, IBM, Facebook и Microsoft основали организацию, которая и будет заниматься решением различных вопросов, имеющих отношение к ИИ.

Эта организация получила название Partnership on Artificial Intelligence to Benefit People and Society. «Каждая новая технология что-то изменяет, и такие изменения зачастую пугают людей, которые их не понимают», — говорит руководитель подразделения искусственного интеллекта Facebook [Янн Ле Кун]. «Одна из целей этой организации — объяснить и показать возможности ИИ, попытаться найти вопросы на базовые этические вопросы».

В июне о необходимости разработать «красную кнопку», которая должна остановить вышедший из-под контроля ИИ рассказывали представители Google. Не основной организации, а подразделения, которое занимается вопросами искусственного интеллекта. Сотрудники DeepMind и ученые из Оксфордского университета утверждают, что ИИ вряд ли будет все время вести себя так, как запланировано людьми. И если что-то пойдет не так, то должно быть средство для решения этой проблемой. «Большая красная кнопка» может послужить гарантией возможности прерывания работы компьютерной системы, отвечающей за работу ИИ, плюс избежать влияния искусственного интеллекта на людей и внешний мир.

Даже те ученые, которые опасаются ИИ, говорят, что останавливать проведение исследований в этой области нельзя. Более разумное решение — это ускорение работы по созданию системы контроля над ИИ. Проблема состоит в том, что разработкой виртуального разума занимаются тысячи человек. А систему контроля разрабатывают единицы. Но, как говорилось выше, сейчас к этой команде добавились представители новой организации Partnership on Artificial Intelligence to Benefit People and Society.

Команда проекта будет работать в трех направлениях. Первое — усиление существующих и установление новых связей между теми людьми и компаниями, кто занимается созданием ИИ. Второе — сбор мнений о проблеме искусственного интеллекта в обществе и академической среде. Третье — информирование общественности о продвижении в плане создания сильной формы ИИ.

Ле Кун считает, что налаживание диалога между разрозненными командами специалистов по ИИ необходимо для продолжения успешной работы в этой сфере. Больше всех преуспели в создании слабой (пока — слабой) формы ИИ все те же Microsoft, Facebook, Google и другие компании. Если же объединить их усилия, то работа может стать более эффективной. Есть, правда, одно опасение. Если даже группа и сможет достичь согласия по ряду этических вопросов, то гарантии того, что разработанные принципы будут реализованы, нет. Другими словами, если один из членов организации решит пойти против разработанных этических норм, его никто не будет останавливать. Главная задача группы — взаимодействие с общественностью.

Григорий Бакунов описал цель новой организации следующим образом: «Фейсбук, Амазон, Гугл, Твиттер, IBM и Майкрософт решили объединиться и начать собирать исследования и общие практики для искусственного интеллекта. Что это cкорее всего значит на самом деле: централизованный банк, куда каждый игрок будет вносить свой кусок данных, позволяющий еще больше знать как о каждом человеке по отдельности, так и массах людей. В современном AI вторичны, а первичны данные и приемы по работе с ними».

Эффективность работы такой организации вызывает сомнения у некоторых ученых. Философ из Университета Кеннесо Дамиен Уильямс [Damien Williams] говорит, что просто свести людей вместе для работы над проблемами ИИ недостаточно для решения этих проблем. Раз уж группа создана, она должна установить новые стандарты в сфере искусственного интеллекта. Должны быть разработаны нормы и положения, которые смогут исключить возможность использования ИИ в целях, которые сложно назвать этическими. Но это — чрезвычайно тяжелая задача. Хотя выполнять ее все равно нужно.

Автор: marks

Источник

Поделиться новостью

* - обязательные к заполнению поля