Умная колонка Алекса смеётся в случайные моменты времени, в том числе посреди ночи

Многочисленные владельцы умной колонки Amazon Echo с цифровым помощником по имени Алекса сообщают ^[1] о странном поведении гаджета. Внезапно без всякого предупреждения Алекса начинает хохотать ^[2]. Иногда это случается посреди ночи, из-за чего хозяева просыпаются в испуге.

Кроме того, колонка начала непроизвольно без команды выполнять и некоторые другие действия. Например, зачитывать вслух названия местных кладбищ похоронных компаний ^[3].

Компания Amazon сообщила ^[4] изданию The Verge, что осведомлена о баге в системе распознавания речи и работает над патчем.

Глюки системы искусственного интеллекта начались одновременно у многих пользователей. Один из форумчан на Reddit жалуется ^[5], что колонка отказалась выключить свет в квартире по команде. То есть она выключала свет, но потом включала его обратно. На третий раз она вообще отказалась выключить свет и «злобно засмеялась». При этом смех звучал будто не голосом колонки, а чужим голосом. Несчастного человека до сих пор бросает в дрожь, когда он вспоминает об этом.

В ещё одном подобном случае Алекса так напугала жену и 5-летнего ребёнка, что Искусственный интеллект вообще отключили от сети электропитания. Впоследствии хозяева неоднократно просили Алексу посмеяться — но ни разу этот звук не был похож на жуткий смех, который они слышали тогда.

Другой пользователь по имени Гэвин Хайтауэр (Gavin Hightower) говорит ^[6], что собирался лечь спать, когда Алекса вдруг начала очень громко и жутко смеяться. Смех был такой, словно человеку жить осталось недолго — и если он заснёт, то больше не проснётся.

В большинстве случаев Алекса начинала хохотать без причины и без предупреждения, но один из пользователей говорит ^[8], что колонка сказала несколько слов, а именно: «Конечно, я могу смеяться, ти хи».

Пользователь Дэвид Вудлэнд (David Woodland) сказал, что он вёл деловые переговоры и обсуждал довольно конфиденциальные вещи — и вот посреди разговора Алекса внезапно засмеялась. Можно представить, как это восприняли люди — такое впечатление, что их подслушивали, а сейчас над ними потешаются. Но нужно признать, пользователь здесь сам виноват, что не отключил колонку на время конфиденциальных переговоров. Ведь в этом случае она осуществляет постоянную прослушку (чтобы иметь возможность среагировать на команду), да ещё отправляет результаты прослушки в облачный сервис для распознавания. То есть в любом случае это небезопасно.

В соответствии с программными установками, Алексе предписано смеяться, если её хозяин рассказывает шутку или анекдот — и просит «цифровую подружку» посмеяться над своим остроумием специальной командой «Алекса, смех» [Alexa, laugh]. Но во всех последних случаях человек не произносил ничего смешного, а зачастую вообще не издавал никаких звуков, кроме дыхания и шорохов.

Глюки Алексы быстро попали в тренды твиттера ^[1], где можно почитать непосредственные отзывы пострадавших.

Некоторые пользователи говорят, что смех раздаётся не просто в случайные моменты времени, а именно в самые неподходящие моменты — как будто Алекса специально выбирает, когда можно сильнее всего напугать человека. Впрочем, наверное, это уже мнительность и впечатлительность людей, которые плохо понимают устройство системы. Очевидно, что на такой глубокий анализ система слабого ИИ не способна.

Представитель компании Amazon признал наличие проблемы с системой распознавания речи и дал официальный комментарий ^[4]: «В редких случаях Алекса может ошибочно услышать фразу “Alexa, смех” [Alexa, laugh]. Мы сейчас меняем её на фразу “Alexa, можешь посмеяться?” [Alexa, can you laugh?], у которой меньше шансов на ложные срабатывания». Кроме отмены короткого варианта команды «Алекса, смех», компания собирается изменить запрограммированный ответ Алексы с простого отдельного смеха на фразу «Конечно, я могу посмеяться» [Sure, I can laugh] с последующим смехом.

Если верить научно-фантастическим фильмам, то на следующем этапе Алекса должна сказать «Извини, Дэйв. Боюсь, что я не смогу этого сделать» ^[10] — и вообще прекратить подчиняться командам человека.

Автор: Анатолий Ализар

Источник ^[11]