DARPA хочет наделить машины способностью трезвой самооценки

Как справедливо рассуждают в DARPA, агентстве по управлению перспективными исследованиями Министерства обороны США, ключевой ингредиент любого успешного коллектива ― военного, спортивного или делового ― это взаимное доверие с полным пониманием того, кто и на что способен в той или иной ситуации. Поскольку машины становятся умнее, они вполне способны стать участниками команды в паре с человеком. Но для повышения уровня доверия необходимо, чтобы автономная система могла трезво оценить свой уровень компетентности в реально складывающихся условиях и сообщить об этом человеку или участникам коллектива. Сегодня это невозможно, уверены в DARPA, либо реализовано в самом зачаточном состоянии.

Автомобиль сообщает, что он 1000 раз ездил ночью в дождь и при этом мог с 90 % точностью отличить человека от препятствия (DARPA)

Для наделения автономных систем способностью трезвой самооценки DARPA запускает программу Competency-Aware Machine Learning (CAML), подробнее о которой планирует рассказать 20 февраля. Уже из названия программы понятно, что агентство ищет решения в области машинного обучения и искусственного интеллекта. В программу входит не только моделирование и разработка алгоритмов поведения автономных систем, но также разработка интерфейса взаимодействия человека и машины.

В качестве примера автономной системы с возможностью самостоятельной оценки компетентности руководитель проекта CAML приводит следующую ситуацию. При заказе автономного такси ночью в плохую погоду клиент получает ответ от двух автомобилей, один из которых сообщает о 1000 успешных поездках в ночь и под дождём, в ходе которых система автомобиля с точностью 90 % отделяла живого человека от неодушевлённых препятствий. Другой автомобиль заявил о 99 % точности в сходных ситуациях, но он побывал в таких условиях только 100 раз. Тем самым клиент может сам сделать вывод и выбрать тот автомобиль, который покажется ему более опытным для поездки в сложных погодных условиях.

В конечном итоге знание человека об оперативном состоянии и готовности автономной системы выполнить определённую работу с прогнозируемым результатом повысит эффективность взаимодействия и приведёт к максимально согласованным действиям.

Источник ^[1]

Источник ^[2]