Доклад Ашманова: как заставить платформы отказаться от плохого контента

27 января был опубликован список поручений
Президента РФ по итогам встречи с
советом по правам человка (СПЧ).
Первым пунктом значится поручение «рассмотреть
представленные президентом акционерного
общества «Крибрум» Ашмановым И.С.
предложения по реализации проекта
создания саморегулируемого реестра
токсичного контента в
информационно-телекоммуникационной сети
«Интернет» в целях защиты
несовершеннолетних и при необходимости
принять соответствующие меры поддержки"
(ответственный — С. В. Кириенко).

Игорь предоставил нам полный текст
доклада для СПЧ, редакция Roem.ru публикует
его с незначительными поправками

Юрий Синодов, Roem.ru

Помимо запрещённого законом контента в Интернете, который блокирует Роскомнадзор, существует также обширная серая зона деструктивного и вредоносного контента: группы про серийных убийц, шок-контент, школьные расстрелы, идеология бездетности (чайлд-фри), ненависть к семье и материнству (ЯжМать), радикальный феминизм, уличное насилие: культ грубой силы (оффники), ультрадвижение (ультрас, околофутбола, лесное движение, хулиганы), АУЕ, аниме с насилием и сексуализацией детских образов, педофилия, ЛГБТ+, зоофилия Фурри, аутодеструктив: депрессия, причинение вреда себе, суициды и прочее.

Этот токсичный контент не запрещён, законных оснований для блокирования его в сети и преследования его распространителей — нет.

Между тем, токсичный контент противоречит основным ценностям России, её стратегическим документам, приоритетам и программам.

Пример: повышение рождаемости и защита семьи и семейных ценностей — один из приоритетов внутренней политики Российской Федерации — следовательно, радикализованные группы чайлдфри с ненавистью к детям, семье, мужчинам, с призывами к абортам — это вредный контент на территории РФ.

Токсичный контент разъедает сознание молодёжи, детей и подростков, служит первым уровнем вовлечения в запрещённую и криминальную деятельность.

Довольно большое количество граждан России — в первую очередь родители — обеспокоены разрастанием токсичного контента в цифровой среде, готовы были бы как-то бороться с этим явлением, быть волонтёрами, но им нужен инструмент для этого.

Воронка вовлечения в деструктив

Токсичный контент устроен в виде воронки вовлечения. Первый слой этой воронки — всегда достаточно «невинный», не вызывающий отторжения у детей и подростков. Это группы широкого тематического охвата, например, картинки о насилии, катастрофах, смертях, увечьях, другой шок-контент, вызывающий острый интерес подростков к необычному, острому, бьющему по нервам. Далее следуют более «токсичные» уровни, на которые переводят (заманивают) тех, кто наиболее внушаем и проявляет готовность выполнять разные «дрессирующие» задания.

В оперделённый момент общение переходит в закрытый режим, где уже выдаются задания для исполнения в реальной жизни (драки, грабежи в АУЕ, «челленджи» — например, «ударь пенсионера», «нанеси себе порезы и сними на смартфон», «ударь чужого шумного ребёнка» и т. п.).

Радикализация токсичных сообществ

Весь «спорный» и «токсичный» контент в условиях свободного развития имеет тенденцию к радикализации. А радикализация приводит к реальным деструктивным последствиям в «офлайне» — в обществе и государстве:

• Романтизация насилия: драки, «бойцовские клубы», выезды в лес, уличное насилие, беспорядки, школьные расстрелы;
• Романтизация и оправдание наркопотребления: рост потребления, втягивание детей и подростков в потребление и распространение (в работу закладчиками и т. п.);
• Аутодеструктив: суициды, депрессия, причинение реального вреда себе;
• Романтизация уголовной жизни (АУЕ): преступления в реальной жизни, драки, сбор денег на «грев зоны», криминальные задания;
• Борьба с семейными ценностями: рост числа разводов, рост числа одиноких людей, падение рождаемости, аборты;
• Сексуальные извращения: сексуальные преступления, насилие, растление несовершеннолетних, падение рождаемости, одиночество.

Токсичный контент всегда в конце концов радикализуется и выходит в офлайн и отравляет реальную жизнь детей и подростков.

Допускать радикализацию нельзя в любой сфере: от «левых» движений до правого национализма, сектантства и экстремизма. А «ловить» и предотвращать её нужно на предыдущих уровнях вовлечения, чтобы потом не пришлось применять административное и полицейское воздействие.

Политизация токсичных сообществ

Маргинальные движения быстро политизируются и участвуют в любой политической «движухе» против государства и общественных устоев:

• Атаки на Победу в ВОВ, народных героев, историю России;
• Раскрутка коронавирусной паники;
• Атаки на поправки к Конституции;
• Атаки на выборы, власть, Единую Россию и В. Путина;

Наш анализ этих атак показывает, что маргиналы демонстрируют классическое стайное поведение. При появлении очередной политической задачи весь «актив» мобилизуется и разом поворачивается в одном направлении, независимо от собственной «темы» (ЛГБТ+, радфем, «экологи», веганы, чайлдфри, зоощитники, антиваксеры и т. п.), стараясь «вытащить» на улицу детей и подростков. Это в том числе показывает, что многие экстремальные меньшинства создаются и выращиваются внешними операторами для политической атаки на российское общество и государство.

Концентрация контента в российском медийном пространстве

Как и в химии, в идеологическом и культурном пространстве критически важна концентрация идей. Наши исследования социальных сетей показывают, что:

• Концентрация запрещённого контента — стабилизируется или падает. Токсичные группы мутируют, пользователи перебегают, шифруются, дают иногда всплески, но общее число подписчиков и их активность — падают или стабилизируются (здесь подходит аналогия с герпесом, который есть в организме всегда, но активизируется при создании условий — переохлаждение, падение иммунитета);
• Концентрация разрешённого токсичного контента резко растёт. Токсичные группы множатся, количество пользователей и сообщений растёт по экспоненте, в несколько раз за год, группы радикализируются, переходят в политическую плоскость и в офлайн. Здесь имеется активная фаза болезни, воспаление.

По сути, токсичный, но не запрещённый контент имеет энергичный «тропизм», как у бактерий и сорняков — он всегда стремится занять максимально возможный объём. Поэтому, как и в случае с сорняками, токсичный контент нужно систематически выпалывать: подавлять: блокировать, маркировать, зачищать, понижать в рейтингах, убирать с платформ.

Почему блокировки Роскомнадзора недостаточны

По закону у нас блокируется только запрещённый интернет-контент. Он блокируется только постфактум: по обращениям граждан и по представлениям уполномоченных ведомств и решениям судов. К этому времени он уже успевает проделать свою разрушительную работу в умах детей и подростков.

Блокирование контента Роскомнадзором — это длительная процедура, содержащая обязательные по закону предупреждения, задержки и лишние логистические «петли»; а за время, потраченное на поиск, посылку предупреждений и прочее, токсичный контент успевает мигрировать на другие сайты и в другие группы и бурно размножиться.

Имеется также сопротивление цифровых платформ: платформы сами не хотят удалять «рейтинговый» контент, сопротивляются давлению государственного регулятора — из соображений сохранения просмотров и прибыли.

При этом государство и регулятор регулярно вызывают в социальных сетях и либеральной части СМИ шквал либеральной критики за «удушение демократии и свободы выражения мнения».

Мы считаем, что токсичный контент обоих типов нужно подавлять на превентивной и добровольной основе, на «той стороне», то есть на стороне самих цифровых платформ. Для этого нужен механизм добровольной досудебной блокировки токсичного контента самими цифровыми платформами в рамках их внутренних правил и политик и взаимодействия с обществом.

Обществу нужен инструмент гражданского контроля за контентом

Социальные платформы имеют свои внутренние политики относительно неприемлемого контента, но они слишком мягкие, закрытые и нечёткие, а кроме того — сильно отличаются от платформы к платформе.

С учётом роста угрозы «токсичного» контента возрастает потребность российского общества в единой и общей этической платформе для цифровой среды. Такая этическая платформа у нас в общем в стране наработана, в том числе в Конституции, законах и в документах стратегического планирования, просто она не полностью артикулирована и осознана в обществе.

Её можно явно обозначить путём запуска гражданского, общественного проекта по составлению «этического меморандума» цифрового пространства и реестра этически неприемлемого контента.

Уже есть примеры такого гражданского и отраслевого согласия по этике поведения в цифровой среде, а именно: Кодекс этики ИИ, подписанный отечественной ИТ-индустрией в октябре 2021 года, Альянс защиты детей (создан летом 2021), Меморандум по борьбе с фейками (лето 2021) и др.

Мы предлагаем создать аналогичный кодекс общественно приемлемого поведения площадок, авторов и пользователей в цифровой среде. Это должен быть общественный, открытый проект по добровольному присоединению к общей этической платформе — в том числе в форме открытого Реестра токсичного контента.

Управлять им будет Общественный Экспертный Совет, который объединит экспертов-волонтёров: психиатров, психологов, педагогов, учёных, представителей специалистов по социальным сетям.

Механизм реализации: общественное, гражданское, волонтёрское движения

Мы предполагаем, что Совет по контролю за токсичным контентом и Реестр токсичного контента будет организован на базе общественного центра интернет-технологий (РОЦИТ). Ведением, поддержкой реестра будут заниматься эксперты-волонтёры — психологи, психиатры, специалисты по девиантному поведению, представители родительских ассоциаций.

Для поддержки цифровыми платформами от них потребуется подписание меморандума о противодействию токсичному и запрещённому контенту в сети Интернет большинством цифровых платформ: VK, Яндекс, Rambler, Rutube, Альянс защиты детей ИРИ, информационные агентства, представители игровой индустрии, СМИ, ТВ-каналы, блогеры, прочие медийные игроки. Конечно, необходимо привлечь и зарубежные цифровые платформы, и СМИ (параллельно с реализацией закона о «приземлении»).

Структура Совета и реестра будет включать следующие механизмы:

• Стимуляция платформ и «экосистем» к добровольному подключению к Реестру и подписанию меморандума;
• Добровольность фильтрации: платформа после добровольного присоединения будет сама решать, каковы процедуры и уровень фильтрации на основе Реестра;
• Публичные события: подписание Меморандума, конференции, общественные слушания, законодательные инициативы;
• Технические средства взаимодействия с Реестром: доступ к рубрикам реестра по программным протоколам, подписка на уведомления, автоматическая рассылка сообщений о найденном волонтёрами токсичном контенте в платформы и сервисы, в РКН.

Обсуждение и поддержка

Идея общественного совета по контролю за контентом обсуждена с Администрацией Президента, с Советом по правам человека, с Роскомнадзором, РОЦИТом, Общественной палатой, родительскими ассоциациями. Все в целом поддерживают идею. В РОЦИТе уже создана рабочая группа по этому вопросу.

В обсуждениях проекта в конце прошлого года задавались очевидные вопросы:

• Как добиться поддержки реестра основными цифровыми платформами?
  Ответ: общественным воздействием на них, через Альянс защиты детей, с помощью публикаций, общественных слушаний, а также с помощью создания рейтингов загрязнённости платформ, своего рода «Доски позора» (или «Доски почёта»). Планируется также обеспечить поток жалоб на контент от волонтёров проекта в сторону цифровых платформ.
• Как обеспечить равные условия для иностранных и отечественных цифровых платформ?
  Ответ: Этот вопрос нужно постепенно решить в ходе параллельного процесса «приземления» иностранных цифровых платформ в российскую юрисдикцию.
• Как не допустить того, чтобы Реестр стал просто пропагандой плохого контента?
  Ответ: Реестр в любом случае будет материалом категории 18+. Это значит, что нужно верифицировать возраст пользователей, получающих доступ к его содержанию. Наиболее адекватным способом такой верификации представляется регистрация через ЕСИА. Отсутствие анонимного доступа и возрастной барьер, по нашему мнению, снимут вопрос с «пропагандой». Кроме того, Реестр будет содержать описание категорий, но не будет содержать ссылок на сам контент.

Выводы

Общественный проект по контролю токсичного контента позволит охватить «серую зону» формально незапрещённого контента. При этом он частично снимет моральную ответственность с государства и выведет его из зоны медийного давления за чистку цифрового пространства, перенеся моральную ответственность за контент на цифровые платформы, где ей и место.

Мы сможем таким образом обеспечить «нулевую общественную толерантность» по отношению к экстремальным меньшинствам, к токсичному контенту, разрушающему традиционные ценности у детей и подростков и противоречащему стратегическим приоритетам Российской Федерации.