Security Week 17: восстание машин

Прошлая неделя была богата новостями на тему искусственного интеллекта. Начнем с сообщения ^[1] издания The Information о прогрессе в расследовании смертельного ДТП с автономно управляемым автомобилем Uber. ДТП произошло в марте в Аризоне: погибшая в аварии переходила дорогу в неположенном месте, и даже если бы назначенный следить за роботами водитель-наблюдатель не клевал носом, вовремя отреагировать он не успел бы. Но ведь на то и нужны всякие сенсоры: они по идее и в темноте лучше видят, и реагируют быстрее. По данным The Information, датчики действительно обнаружили женщину относительно вовремя, но софтом было принято решение какое-то время не реагировать на объект — с целью борьбы с ложными срабатываниями.

Заметку The Information стоит делить на десять: пока официально в Uber не стали ничего подтверждать или опровергать, информация поступила из анонимных источников. Да и слишком просто это звучит: «ложные срабатывания». Вроде бы автопилот настраивается так, чтобы игнорировать предметы типа летающих пакетов и бордюрных столбиков, иначе получится не автономная езда, а сплошное мучение с постоянными попытками объезда несуществующих препятствий и резкими торможениями. Может ли оптимизация кода приводить к человеческим жертвам? В этом случае непонятно, но вообще, наверное, да. Почему нет-то?

На конференции Google I/O также было немало анонсов, связанных с искусственным интеллектом. Например, был показан умный помощник для написания писем в GMail.

Если честно, выглядит страшновато: ты, может, еще не решил, о чем будешь писать письмо, а Google уже знает! Я, конечно, понимаю желание сервисных вендоров вставить машинно-обучаемые алгоритмы куда только можно, но, может, с письмами мы как-нибудь сами справимся? Или нет? Возможно, реальный прогресс действительно должен немного пугать, иначе это и не прогресс вовсе. Автомобили с автопилотом, смартфоны, способные предвосхищать действия и желания пользователя — все это наверняка сделает нашу жизнь удобнее, но одновременно ограничит возможности непосредственного контроля над устройствами и сервисами. И добавит новые риски безопасности, о которых мы пока еще не знаем, и узнавать будем, видимо, только опытным путем.

Еще одно применение ИИ: распознавалка предметов встроенной фотокамерой.

На конференции Red Hat Summit директор Red Hat по искусственному интеллекту обозначил еще одну особенность ^[9] массового развития и внедрения машинно-обучаемых систем. Железо для ИИ потребуется мощное, и далеко не факт, что абсолютно все получится централизовать. Это может дать новый стимул развитию целого спектра аппаратных решений: от процессоров с повышенной мощностью в пересчете на одно ядро до видеокарт и кастомных вычислительных систем. В случае тех же автономных машин это может привести к появлению в багажнике вашего автомобиля очень мощного компьютера. Хотя вы не сможете запустить на нем Crysis, технологии искусственного интеллекта могут развернуть тенденцию хранения абсолютно всех ваших данных где-то «в облаке». Данных будет так много, что никаких облачных систем не хватит. С точки зрения безопасности и приватности, это, наверное, хорошая новость.

Самый важный багфикс на Google I/O.

Одной строкой
А вот на конференции Build компания Microsoft рассказала ^[14] о поддержке языка JavaScript в Microsoft Excel. Буквально через сутки после анонса исследователь Чарльз Дардаман опубликовал ^[15] proof of concept по встраиванию в Excel майнера криповалюты. Вот только там его и не хватало.

Интересное исследование ^[16] вымогателя SynAck от «Лаборатории Касперского». Взлом компьютеров через RDP и маскировка вредоносного процесса с помощью приема клонирования системных процессов Windows.

Disclaimer: Мнения, изложенные в этом дайджесте, могут не всегда совпадать с официальной позицией «Лаборатории Касперского». Дорогая редакция вообще рекомендует относиться к любым мнениям со здоровым скептицизмом.

Автор: Kaspersky_Lab

Источник ^[17]