У Facebook обнаружили негласные «белые листы» для пользовательской модерации

Facebook опять поймали на серых практиках модерации контента, противоречащих декларируемым принципам. WSJ нашел ^[1] некие внутренние документы, подтверждающие существование белых списков пользователей в рамках программы «XCheck», или cross check. В белые списки попадали ценные для соцсети популярные пользователи: их посты не подлежали автоматическим санкциям или удалению рядовыми модераторами, а должны были в случае поступления сигнала о возможном нарушении исследоваться на предмет таковых опытными сотрудниками, у которых часто до них «не доходили руки».

В результате «випы» могли публиковать то, за что обычных людей банили. Например, звёздный бразильский футболист Неймар выложил в 2019 году фото обвинявшей его в изнасиловании женщины без одежды и успел получить 6000 репостов. Хотя за revenge porn пользователя обычно удаляют из Facebook вообще, в соцсети подумали и решили Неймара не трогать.

Случались посты от звёздных аккаунтов о смертельности вакцин, Qanon-выступления о педофильских сетях, опутавших Хиллари Клинтон и о том, что Трамп обозвал беженцев животными. К 2020 году в «белом списке» было около 5,8 млн аккаунтов. Наблюдательный совет об этой практике не знал. В 2018 году Марк Цукерберг рассказывал, что каждое десятое решение об удалении контента пользователей принимается неверно, а пользователь часто не имеет возможности ни протестовать, ни вообще узнать, что он нарушил.

«В отличие от остальных членов сообщества, эти люди могут нарушать наши правила без последствий», писали в Facebook сами себе по результатам внутреннего аудита XCheck. Она создаёт множественные правовые и коммуникационные риски. Из 18 расследованных случаев срабатывания XCheck ошибочными в рамках внутреннего расследрвания признали 16. А в WSJ обещают ещё серию статей о проблемах в Facebook на основе полученных документов и интервью с сотрудниками. Среди документов есть и жалоба в SEC в рамках программы сотрудничества с потенциальными информаторами