Рисунки смогли свести с ума беспилотные автомобили

Несмотря на то, что тысячи инженеров по всему миру работают над тем, чтобы сделать беспилотные автомобили безопасными, существуют самые неожиданные уязвимости, которые могут поставить под угрозу как пассажиров беспилотников, так и окружающих людей. К такому выводу пришли немецкие учёные из Института интеллектуальных систем им. Макса Планка и Тюбингенского университета.

Специалисты выяснили, что свести с ума электронику автомобиля может цветное пятно, которое окажется в поле зрения видеокамер. Если такой даже неподвижный рисунок фиксирует беспилотник, то система начинает считать, что разные объекты в поле зрения камер движутся в разные стороны и это приводит к сбою в работе нейросетей.

Учёные подчеркнули, что у них ушло не больше четырёх часов на создание рисунка, который выводит из строя автопилот. При этом, как отмечают исследователи, для того, чтобы машины оказались в сложной ситуации, достаточно даже небольшого по размеру изображения, которое может располагаться где угодно — на других транспортных средствах, на объектах дорожной инфраструктуры и даже на людях.

В своей работе Attacking Optical Flow, опубликованной на arXiv, специалисты подчеркнули, что если взять за 100% весь объём визуальной информации, которые воспринимают камеры беспилотных автомобилей, то если даже менее 1% от этого изображения придётся на цветовое пятно, то в системе возникнут ошибки и автопилот не сможет корректно оценивать ситуацию, а беспилотник начнёт вести себя непредсказуемо. При этом одна и та же машина, «увидев» одно и то же пятно, каждый раз реагирует на «препятствие» неодинаково.

Учёные намерены найти решение выявленной проблемы, а пока пытаются привлечь внимание разработчиков автопилота к найденному багу. Гипотетически подобные цветовые пятна могут использовать хакеры, чтобы выводить из строя беспилотные машины.

Источник ^[1]

Источник ^[2]