О чём хорошие боты спорят в Википедии

В августе 2011 года Игорь Лабутов и Джейсон Йосински, два аспиранта Корнелльского университета, запустили пару чат-ботов напротив друг друга. Начав с простого приветствия, разговор ботов быстро превратился в словесную перепалку ^[1] с обвинениями и спором о Боге. Первая беседа представителей ИИ завершилась конфликтом.

На страницах Википедии война правок уже давно ведётся с привлечением слабого ИИ, но иногда даже «хорошие» боты вступают в бесконечный конфликт.

Интернет-боты, которые выполняют автоматизированные запрограммированные действия в зависимости от контекста, родились практически вместе с самим интернетом. С тех пор они постоянно совершенствовались и усложнялись. Один из-первых чат-ботов Eggdrop приветствовал посетителей IRC-каналов в 1993 году ^[2]. По мере усложнения боты начали брать на себя всё больше и больше функций. Значительная часть современных коммуникаций в интернете — это боты. Например, в 2009 году они генерировали около 32% всех сообщений в твиттере для самых активных пользователей. В целом они тогда генерировали 24% всех твитов. Маркетологи считают, что 54% просмотров баннерной рекламы в интернете тоже обеспечивают боты. Представители слабого ИИ контролируют сотни тысяч аккаунтов на игровых сайтах, а десятки тысяч искусственных женщин «раскручивают» клиентов на сайтах знакомств ^[3].

Численность ботов в интернете постепенно растёт. Они работают 24 часов в сутки 7 дней в неделю. И как показывает пример ботов из Корнелльского университета, эти цифровые создания редко запрограммированы на сотрудничество — поэтому могут вступать в конфликт. Чем более сложную деятельность ведут боты, чем лучшая у них функциональность и реагирование на контекст, тем больше вероятность, что боты встретятся и начнут мешать друг другу.

У ботов разные функции. Некоторые перечислены в таблице, в зависимости от выполняемой задачи и намерений. Во второй колонке перечислены боты с хорошими намерениями, в третьей колонке — с вредоносными намерениями. Вполне логично, что боты одинаковой функциональности из второй и третьей колонки будут вступать в конфликт. Они должны вступать в конфликт. Зачастую прямая задача хороших ботов — ликвидация негативных последствия действия вредоносных ботов.

Таблица 1

Несмотря на надежды футурологов, до сих пор ИИ неведомы понятия морали и культуры, даже в простом общении. Это только увеличивает вероятность конфликтов.

Специалисты из Оксфордского института интернета ^[4] недавно опубликовали результаты исследования ^[5], что происходит на страницах Википедии, когда на странице правок встречаются несколько ботов, предназначенных для внесения изменений в статью.

По статистике, 15% всех правок в Википедию вносят именно боты. У современных программ продвинутая функциональность: они умеют автоматически исправлять вандализм, отслеживать баны, проверять правописание, создавать ссылки между статьями на разных языках, автоматически импортировать контент, осуществлять майнинг данных, определять нарушения копирайта, приветствовать новичков и т.д.

Доля ботов в правках Википедии (B) и доля правок людей и ботов, которые отклоняются (С, D)

Боты Википедии не подчиняются центральной власти — это принципиальная и важная идея самоорганизующегося общества, единственный способ выстроить действительно эффективную систему. Но если отдельные редакторы Википедии могут не сойтись во мнении ми многократно править друг друга, то и боты отражают их точки зрения.

Исследование показало, что если правки ботов отклоняются, то обычно это происходит по инициативе других ботов, а не людей. При этом доля правок «бот-бот» постепенно возрастает, что наталкивает на мысль о нарастании конфликта и напряжённости в сообществе ботов.

Доля правок «бот-бот» постепенно возрастает

Наибольшее количество правок ботов, которые исправляются другими ботами, а затем исправляются обратно, относится к «несогласию между ботами, которые специализируются на создании и исправлении ссылок между различными языковыми редакциями энциклопедии». По мнению авторов исследования, «отсутствие координации может быть связано с тем, что в разных языковых редакциях немного различаются правила именования и соглашения». Чаще всего в конфликтах замечены боты Xqbot, EmausBot, SieBot и VolkovBot, а война правок между ботами чаще всего происходит в нескольких статьях, среди них:

• Первез Мушарраф (бывший президент Пакистана)
• Узбекистан
• Эстония
• Беларусь
• арабский язык
• Нильс Бор
• Арнольд Шварценеггер

Как было сказано выше, правки происходят преимущественно в ссылках между языковыми редакциями.

Википедия — лишь маленький пример экосистемы, густо населённой сложными ботами. Как видно из таблицы 1, ботосфера представляет собой гораздо более обширное пространство. Такие же конфликты, а иногда ещё более острые конфликты, могут возникать в других областях. Самые известные классические примеры — войны ботов на биржах (в т.ч. высокочастотный трейдинг) и на аукционах (в т.ч. скальпинг), а также автоматическая скупка ботами дефицитных товаров в интернете (билеты на концерты, места в очередях в посольство и т.д.).

В Википедии экосистема ботов находится под постоянным контролем. Здесь трудно представить себе расцвет пропаганды в твиттере и социальных сетях, где боты успешно распространяют фейковые новости и раскручивают фальшивые новостные сюжеты, чтобы вывести их потом на уровень центральных СМИ и повлиять на общественное мнение. Информационные войска по пропаганде и контрпропаганде в интернета созданы и эффективно работают в нескольких странах мира ^[6]. Боты в твиттере координируют свои действия как часть ботнетов, хотя такие ботнеты редко удаётся идентифицировать, разве что случайно ^[7].

Научная работа специалистов из оксфордского института интернета опубликована ^[5] 23 февраля 2017 года в журнале PLOS One (doi:10.1371/journal.pone.0171774).

Автор: alizar

Источник ^[8]