Facebook уволил редакторов — и алгоритм пошёл вразнос

Модуль подбора «Популярных новостей» в новостной ленте Facebook работает очень хитро. «Список тем персонализируется на основе разных факторов, включая ваши отметки «Нравится» для Страниц, ваше местонахождение и те новости, которые популярны по всему сайту Facebook», — сказано в справочном центре ^[1]. На сегодняшний день раздел «Популярное» со списком популярных тем (Trending Topics) доступен только на английском языке в некоторых странах.

Исторически, в Facebook работал отдел редакторов, который модерировал список популярных новостей, потому что в социальной сети нередко распространяются вирусные и фейковые новости с непроверенными источниками. Редакторы удаляли фейки и добавляли в список материалы из надёжных источников. Предполагалось, что выбор редакторов в том числе поможет обучать алгоритм. Человеческая модерация не вызывала особых претензий, пока в США не началась избирательная кампания перед президентскими выборами. И на сцену не вышел известный политик — идеальный генератор вирусных новостей.

Вирусные новости и фейки. Один маркетолог + два копирайтера = $30 000 в месяц

Практически все громкие заявления кандидата от Республиканской партии становились вирусными новостями и обильно цитировались в социальных СМИ. Кое-кто называет его «политическим троллем». Впрочем, такое поведение уже становится нормальным для современных политиков, в том числе европейских и российских ^[2]. Более того, многие непроверенные новости, связанные с этим именем, тоже имели скандальный характер и широко расходились в социальной сети.

Работа группы редакторов Facebook — удалять такие непроверенные новости, и вполне естественно, что кандидат от Консервативной партии стал главной жертвой их цензуры. В мае 2016 года из-за этого разгорелся большой скандал ^[3] — компанию Facebook обвинили в политической цензуре и попытках повлиять на общественное мнение путём манипуляции с подбором «популярных новостей», откуда чаще всего удалялись именно популярные новости, связанные с Дональдом Трампом.

Особенно пострадали от этого контент-генераторы, которые специализируются на распространении фейковых и вирусных новостей, специализирующиеся на Дональде Трампе. В газете NY Times недавно вышла большая статья ^[4] о том, как работают такие контент-фермы. Например, 35-летний интернет-маркетолог из Сент-Луиса Адам Николофф (Adam Nicoloff) год назад открыл сайт и страничку Make America Great ^[5] на Facebook, где публикует горячие вирусные новости в поддержку Трампа (примерно по 20 штук в день). Например, «Я никогда не отправлю своих детей в школу, где детям промывает мозги ^[6] ЛГБТ-лобби». Он нанял двух редакторов из Филиппин (муж и жена), которые делают всю работу. Горячие политические темы хорошо расходятся в соцсети, и за прошлый месяц сайт принёс маркетологу более $30 000 дохода на рекламе. К сожалению для маркетолога, после статьи в NY Times его страничку на Facebook заблокировали. Но его дело живёт, и многие нечистоплотные журналисты и маркетологи продолжают вбрасывать в Facebook вирусные и фейковые новости, рассчитывая на тысячи лайков, репостов и посетителей.

Такие новости часто выходили в список «Популярных», а редакторы удаляли их ^[3]. Но в мае на них обрушилась критика СМИ из-за обвинений в политической цензуре — они действительно удаляли много новостей о Дональде Трампе, вроде упомянутой выше.

Юристам Facebook даже пришлось явиться для объяснения в Сенат США ^[7], где они отчитались о работе своего алгоритма и действиях редакторов. Представители Facebook заявили, что проведённое расследование «не выявило доказательств систематической политической дискриминации в выборе или продвижении историй, включённых в блок популярных новостей».

До свидания, редакторы!

В связи с возмущением общественности Facebook всё-таки был вынужден принять меры. 26 августа Facebook объявил ^[8], что список популярных новостей отныне будет снова формироваться практически полностью алгоритмически, только с минимальным надзором редакторов. Компания упомянула, что новая система позволит масштабировать работу этого модуля и в будущем запустить его в большем количестве стран и на большем количестве языков. С редакторской работой такое было бы практически невозможно.

В связи с этим изменился внешний вид модуля популярных новостей. В блоке «Популярное» больше не указано краткое описание для каждой новости. Теперь есть читатель не может сразу понять, о чём, собственно говоря, новость.

По нажатию на новость выводится сниппет из оригинального текста, а не оригинальное редакторское описание.

Как и раньше, список составляется по количеству упоминаний темы и репостов, с учётом отметок «Нравится» конкретного пользователя и его местонахождения. Участие редакторов сведено к минимуму. Они просто удаляют из списка темы, которые не привязаны к конкретному событию. Например, хэштег #lunch, который появляется в списке самых популярных тем ежедневно в обеденное время.

Руководитель группы разработки News Feed в компании Facebook Уилл Каткарт (Will Cathcart) подчеркнул ^[9], что компания абсолютно не заинтересована в проведении какой-либо редакционной политики и «распространении субъективного выбора редакторов на весь мир».

«Наша цель — дать возможность знакомиться с популярными темами как можно большему количеству людей, что будет сложно, если мы будем полагаться только на резюмирование тем вручную», — сказано в официальном сообщении Facebook ^[8].

В отделе Trending Team работало 40-50 редакторов ^[10] с зарплатой от $55 000 до $65 000 в год — это больше, чем получает большинство журналистов в традиционных СМИ.

В отделе была высокая текучка кадров — те редакторы, чей выбор новостей выдавал низкие показатели, получали предупреждение от супервайзера. Он присылал статистику и сравнивал показатели того редактора с более высокими показателями других редакторов. По правилам проверки информации, был установлен список из 10 достоверных источников новостей ^[11], но в целом правила работы редакторов были крайне размытыми (см. Trending Review Guidelines ^[12]). темы выбирались из списка 1000 RSS-каналов новостных СМИ ^[13].

Итак, после майского скандала с редакторами решили покончить. По неофициальной информации ^[14], редакторов из отдела Trending Team уволили без предупреждения сразу после совещания, куда их пригласили вместе с сотрудником службы охраны.

Редакторам дали четырёхнедельное выходное пособие.

Первые результаты

Сразу же после отстранения людей от редактирования списка «Популярных новостей» алгоритм проявил себя во всей красе. Буквально через несколько часов в список популярных тем попала политическая статья о Мегин Келли ^[15] (архивная копия ^[16]) — полностью выдуманная история о юристе и телеведущей канала Fox News, которую зарепостил в Facebook политический таблоид End The Fed ^[17], ещё одно мусорное СМИ, которое зарабатывает на публикации вирусных новостей в поддержку Дональда Трампа, специально рассчитанных на распространение в социальных сетях.

В лучших традициях мусорных СМИ публикация ссылается на источник на сайте "End The Fed". Та ссылается на "National Insider Politics", а последняя, в свою очередь, на очень сомнительный блог-первоисточник "Conservative101".

За несколько часов фейковый пост ^[18] набрал около 1900 лайков на Facebook, 59 000 упоминаний — и попал в список популярных новостей.

Статья находилась в списке популярных несколько часов, пока Facebook не удалил её в понедельник утром ^[19].

Дальше — больше.

Вскоре в список популярных новостей попало ещё несколько очень странных тем. «Странных» — это мягко сказано. Один из заголовков "SNL Star Calls Ann Coulter a Racist C*nt" включал в себя ненормативную лексику.

Другая тема — это вирусное видео человека, который совершает непотребное действо с сэндвичем «Макчикен».

Ну а что, тема действительно привязана к событию в реальном мире. Тема популярная, о ней говорят. Почему нет? Может быть, редакторы действительно не нужны?

Мол, со временем алгоритм обучится — и персонализированная лента «популярных новостей» будет лучше учитывать интересы конкретных пользователей. Тогда новости о сэндвиче «Макчикен» будут выходить в список популярных новостей только для тех людей, кому это действительно интересно. Хотя, зачем обманывать себя — это действительно интересно большинству пользователей в социальной сети Facebook.

Автор: alizar

Источник ^[20]