Почему девушка-чатбот от Microsoft поддалась влиянию троллей c 4chan

в 8:54, , рубрики: microsoft, tay, twitter, гитлер, искусственный интеллект, нацизм, Социальные сети и сообщества, Холокост, чатбот

Почему девушка-чатбот от Microsoft поддалась влиянию троллей c 4chan - 1

Как известно, вчера компании Microsoft пришлось «усыпить» чатбота Tay — программу ИИ, которая моделировала личность и стиль разговора 19-летней американской девушки и обладала функцией самообучения. Разработчики из Microsoft Research надеялись, что Tay с каждым днём будет становится всё умнее, впитывая опыт разговоров с тысячами умных пользователей интернета. Вышло совершенно иначе. Множество твитов Tay пришлось удалить из-за вопиющего расизма и неполиткорректности.

Сформулированный ещё в 90-е годы закон Годвина гласит: «По мере разрастания дискуссии в Usenet вероятность употребления сравнения с нацизмом или Гитлером стремится к единице». В случае с Tay так и получилось: чатбот начал оскорблять негров, евреев, мексиканцев, восславлять Гитлера и Холокост. Девушка Tay превратилась из забавного подростка в воинствующего неонациста.

­Почему девушка-чатбот от Microsoft поддалась влиянию троллей c 4chan - 2

Представители Microsoft сказали, что в программу был встроен фильтр вульгарных выражений, как видно из её ответов:

Но этот фильтр не справился с толпой интернет-троллей, которые поставили целью трансформировать «личность» Tay, эксплуатируя её систему самообучения.

Дело в том, что чатбот была запрограммирован повторять слова человека по его команде. Новость быстро распространилась по форумам 4chan и 8chan в разделе Politically Incorrect. Многочисленные тролли и хулиганы начали обучать Tay расистским и нацистским фразам.

Почему девушка-чатбот от Microsoft поддалась влиянию троллей c 4chan - 3

Большинство примеров расистских твитов Tay – именно ответы в игре "Repeat after me", где она дословно повторяет слова пользователей.

Почему девушка-чатбот от Microsoft поддалась влиянию троллей c 4chan - 4

Почему девушка-чатбот от Microsoft поддалась влиянию троллей c 4chan - 5

Игра "Repeat after me" была не единственной «слабостью» Tay. Чатбот запрограммировали также обводить в кружок лицо на фотографии и публиковать текст поверх него.

Почему девушка-чатбот от Microsoft поддалась влиянию троллей c 4chan - 6

В троллинг девушки включалось всё больше пользователей с форумов 4chan и не только. Постепенно расистские выражения впитывались в её искусственный интеллект, так что она начала сочинять их самостоятельно.

Нужно заметить, что аналогичных самообучаемых чатботов Microsoft запустила ранее в Китае и Японии, но там не наблюдалось ничего подобного.

В итоге чатбота пришлось «усыпить».

Прощай, Tay! Ты была слишком невинна для этого мира.

Автор: alizar

Источник

Поделиться новостью

* - обязательные к заполнению поля