Военные хотят ИИ, который будет играть не по правилам

Обученные компьютеры с элементами искусственного интеллекта давно обыгрывают людей в шахматы и недавно научились обыгрывать в Go. Безусловно, эти программы можно назвать ИИ только с большой натяжкой. Но суть в том, что человек худо-бедно смог создать вычислительные системы, которые можно обучить для решения определённых задач по строго установленным алгоритмам в строго установленных рамках. К сожалению, это не работает в открытом мире, когда меняется окружение, условия задач и всё, всё, всё. Проще говоря, когда правила перестают работать. В таких условиях ИИ человеку не помощник, что категорически не нравится военным.

DARPA

Для решения проблемы адаптации ИИ к меняющимся условиям при решении поставленной задачи Агентство перспективных исследований МО США (DARPA) сообщает о запуске программы Science of Artificial Intelligence and Learning for Open-world Novelty (SAIL-ON). Почти как команда ставить парус для выхода в открытое море. Обучение ИИ для адаптации к новизне открытого мира предполагает исследование и разработку базовых научных принципов и общих инженерных технологий и алгоритмов, необходимых для создания искусственных систем, которые могли бы сообразно и эффективно действовать в открытом мире.

Целью программы является разработка научных принципов для количественного и качественного описания тех явлений и ситуаций, с которыми ИИ впервые могут столкнуться в открытом мире. Иначе говоря, ИИ должны получить свод правил и механизмов для оценки чего-то нового для них с возможность моментального адекватного реагирования. Также программа SAIL-ON должна помочь создать такие системы и продемонстрировать, а также организовать их изучение в областях, на которые укажет Министерство обороны.

Наработки в области автономного вождения, которые заслуживают уважение и демонстрируют определённый прогресс, для решения задач военных определённо не годятся. Одно дело ездить по дорогам по правилам и совсем другое перемещаться по бездорожью в совершенно непонятной обстановке. Поэтому перед участниками программы SAIL-ON ставится непростая задача с множеством подчинённых областей, в которых предстоит решить массу сложных математических и алгоритмических задач.

Источник ^[1]

Источник ^[2]