Моральная паника: Facebook обвиняют в недостаточно эффективной цензуре

Прошло всего несколько месяцев после скандала с «фальшивыми новостями» ^[1], которые распространялись через Facebook и якобы помогли в избрании нового президента-популиста США. В распространении этих новостей обвиняли Facebook и Google News. Мол, они не проверяли источники новостей и выводили самые популярные заголовки на верхние строчки в ленте. Facebook пришлось срочно вносить изменения в алгоритм формирования ленты новостей. Похоже, этот алгоритм настолько сложный, что никто уже не понимает чётко, какие новости он будет выбирать (индивидуально для каждого читателя).

Сейчас Facebook опять обвиняют в «преступной халатности». На этот раз поводом стало поведение американского гражданина, который решил по какой-то причине убить случайного человека на улице. Он снял на телефон, как подходит и стреляет в него, а затем загрузил видео на Facebook. Там оно 2 часа 7 минут было доступно для просмотра всеми желающими. Один из последующих постов с копией видео набрал более 1,6 миллиона просмотров ^[2]. Facebook подвергся знатной обструкции ^[3], а журналисты поднимают вопрос об ответственности крупнейшей в мире социальной сети за то, какую информацию она помогает распространять. Вопрос в том, насколько жестокой и эффективной может быть цензура?

Преступление совершил 37-летний Стив Стивенс (Steve Stephens) из Кливленда. Изначально полиция сообщала, что мужчина вёл трансляцию на Facebook в прямом эфире, но позже уточнила, что запись была сделана предварительно в тот же день, а уже потом загружена на сайт прямых трансляций Facebook Live. Впрочем, суть претензий это не меняет. Комментаторы в СМИ и соцсетях тут же скатились в моральную панику и начали задавать вопрос: какую ответственность несёт Facebook ^[4]?

Комментаторы обращают внимание, что проблема несанкционированной трансляции экстремального насилия в прямом эфире возникала и раньше. Например, в 1974 году американская телеведущая Кристин Чаббак ^[5] совершила самоубийство в прямом эфире во время телевизионной трансляции на канале ABC. 15 июля 1974 года она вела криминальную хронику, но на восьмой минуте передачи случилась накладка: анонсированный сюжет о стрельбе в ресторане не смогли показать по техническим причинам. Тогда Кристин произнесла: «Поддерживая проводимую „Каналом 40“ политику демонстрации самой свежей крови и кишок в прямом эфире в полном цвете, вы станете первыми телезрителями, которым будет продемонстрирована попытка суицида в прямом эфире». Сказав это, телеведущая достала револьвер, приставила его к голове и нажала на спусковой крючок. Согласно её сценарию передачи, она должна была совершить самоубийство в конце программы, но из-за технической накладки ведущая решила опередить события.

Разумеется, телеканал никогда не повторял эту запись — и увидеть её в прямом эфире смогло не такое большое количество телезрителей. Уж наверняка меньше, чем эти 1,6 миллиона человек сейчас в социальной сети.

Руководство Facebook cреагировало настолько быстро, насколько смогло. Видеоролик удалили, а затем компания опубликовала официальное заявление: «Это ужасное преступление, и мы не допускаем такого типа контента, — сказано в заявлении ^[6]. — Мы усиленно работаем, чтобы сохранить на Facebook безопасную среду и поддерживаем контакт с правоохранительными органами в экстренных случаях, когда имеются прямые угрозы физической безопасности».

Возникает вопрос: что ещё можно ожидать от Facebook? Предварительной модерации всех публикуемых видеороликов? Внедрения нейросети с распознаванием стрельбы и изображения пистолета в кадре? Пока что это малореально выкатить в продакшне, такие технологии испытывают на уровне научных экспериментов.

Компания не может волшебным образом запретить людям публиковать видеоролики или запретить совершать преступления. Хотя кое-что можно сделать, конечно. Например, автоматически блокировать попытки повторной загрузки этого видеоролика другими пользователями после того, как удалили оригинал. Это действительно вполне реально.

В данный момент Facebook, как и многие другие сайты, полагаются на краудсорсинг — что кто-то пометит видеоролик как несоответствующий правилам сайта. Он поступит на рассмотрение модераторам — и те заблокируют его. Но эта система по умолчанию предполагает, что кому-то придётся посмотреть на это видео, прежде чем его заблокируют. В этом случае Facebook получил сообщение о видеоролике с убийством через 1 час 45 минут ^[6] после публикации, а ещё через 23 минуты аккаунт заблокировали.

Уже многократно говорилось, что в условиях открытого информационного общества в Интернете невозможно препятствовать свободному распространению информации — это противоречит самой природе Всемирной сети. Это как попытаться остановить распространение газа, который попал в атмосферу. До того как видеоролик удалили с Facebook — он уже разошёлся сотнями копий по всем уголкам Интернета. Пасту невозможно запихнуть обратно в тюбик, а доступ к бесчисленному количеству копий этих видеороликов невозможно заблокировать. Их нельзя удалить из Интернета, они там останутся навсегда.

Даже если Facebook и прочие внедрят фантастическую систему ИИ для автоматического распознавания и блокирования видео в прямом эфире, эту цензуру всегда можно будет обойти: изменять звук выстрела, маскировать пистолет в кадре и т.д. Здесь ничего не поделаешь, с этим остаётся только смириться, то есть бороться по старинке — наказывать за преступления постфактум, а не пытаться волшебным образом их предотвратить.

С тех пор как Facebook запустил сервис прямых видеотрансляций чуть меньше года назад, его неоднократно использовали для трансляции полицейских перестрелок, изнасилований ^[7], пыток, избиений и большого количества самоубийств ^[8]. Но именно спланированное убийство, кажется, сейчас транслировалось впервые.

Автор: alizar

Источник ^[9]