Госдума создала российскую версию «законов Азимова»

Правительство утвердило Концепцию ^[1] развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года. Исполнительная власть и «Роскосмос» должны в ближайшие три месяца разработать предложения по её реализации.

В документе сформулированы «базовые этические нормы» для ИИ и роботов:

• приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод (цель обеспечения благополучия и безопасности человека должна преобладать над иными целями разработки и применения систем искусственного интеллекта и робототехники);
• запрет на причинение вреда человеку по инициативе систем искусственного интеллекта и робототехники (по общему правилу следует ограничивать разработку, оборот и применение систем искусственного интеллекта и робототехники, способных по своей инициативе целенаправленно причинять вред человеку);
• подконтрольность человеку (в той мере, в которой это возможно с учетом требуемой степени автономности систем искусственного интеллекта и робототехники и иных обстоятельств);
• проектируемое соответствие закону, в том числе требованиям безопасности (применение систем искусственного интеллекта не должно заведомо для разработчика приводить к нарушению правовых норм);
• недопущение противоправной манипуляции поведением человека.

Одной из проблем в разработке ИИ-технологий считается то, что разработчик не всегда может предсказать, когда машинное обучение приведёт к нарушению норм. Дискриминация в процессе кадрового или банковского скоринга, алгоритмы, генерирующие оскорбительные шутки, и автопилоты автомобилей, выбирающие, кого сбить на дороге при неизбежности аварии, не исчерпывают возможных примеров.

В концепции описаны и принципы регулирования этой отрасли: в их основе должны быть поощрение конкуренции, импортозамещение, особое внимание к потенциальным рискам, наконец, «стимулирование как основа регулирования». Отмечается, что одной из главных проблем для развития ИИ в России является недоверие общества.

Вышеупомянутая проблема появляется в Концепции среди перечня сложностей регулирования ИИ во всём мире:

• соблюдение баланса между требованиями по защите персональных данных и необходимостью их использования для обучения систем искусственного интеллекта;
• определение предмета и границ регулирования сферы использования систем искусственного интеллекта и робототехники;
• идентификация системы искусственного интеллекта при взаимодействии с человеком, включая его — информирование о взаимодействии с такой системой;
• правовое «делегирование» решений системам искусственного интеллекта и робототехники;
• ответственность за причинение вреда с использованием систем искусственного интеллекта и робототехники;
• правовой режим результатов интеллектуальной деятельности, созданных с использованием систем искусственного интеллекта;
• использование для принятия решений системами искусственного интеллекта вероятностных оценок и невозможность в ряде случаев полного объяснения принятого ими решения (проблема алгоритмической прозрачности систем искусственного интеллекта).

В Концепции также предлагается расширить список технологий, которые будут изъяты из перечня тех, что могут использованы при создании вооружений и военной техники и в отношении которых осуществляется экспортный контроль. Это сделает проще экспорт технологий и работу российских разработчиков с зарубежными рынками.

Страховой отрасли предлагается научиться страховать клиентов от вреда, причинённого в результате применения роботов. Сам термин «робот», равно как «ИИ», «интеллектуальный агент» и прочие Концепция призывает уточнить и зафиксировать однозначное понимание. Но в законодательстве эти слова пока на всякий случай не определять.

В то же время с учетом прикладного характера применения этих технологий в самых разных областях может требоваться формулирование разных определений в зависимости от отрасли применения технологий искусственного интеллекта и робототехники. По этой причине в рассматриваемый в Концепции временной период предлагается по возможности избегать внедрения в законодательство Российской Федерации единого для всех отраслей нормативного определения указанных терминов. При этом крайне важно в этот период провести работу по построению и гармонизации онтологии предметной области силами экспертного сообщества и профильных технических комитетов при
Федеральном агентстве по техническому регулированию и метрологии.

Ключевыми областями для внедрения ИИ и роботов Концепция считает здравоохранение, транспорт, государственное и муниципальное управление, градостроительство и умные города, финансы, промышленность и космос