В Европе предложили сканировать устройства пользователей — кто и почему выступает против

Подают инициативу под соусом борьбы с запрещенным контентом в социальных сетях и мессенджерах. Правозащитники видят в этом серьезную угрозу конфиденциальности и информационной безопасности. Расскажем, что вообще происходит.

Известная дорога

Вопросы, связанные с шифрованием, уже давно беспокоят ^[2] западных законодателей. Некоторые страны — среди них, например, Австралия — обязали разработчиков приложений предоставлять дешифрованные данные пользователей по запросу правоохранителей (по сути, запретив e2e). Два года назад похожий законопроект начали ^[3] обсуждать в Великобритании, и теперь его рассматривают ^[4] на уровне парламента.

Против предложения политиков уже выступили крупнейшие мессенджеры. Представители компаний рассказали, что не будут менять систему защиты или внедрять бэкдоры и примут последствия блокировки на территории страны. При этом часть разработчиков просто закроет доступ к своим сервисам для английских пользователей, чтобы не нарушать закон.

Но несмотря на критику со стороны правозащитных организаций, телекомов и ИТ-компаний, которой регулярно подвергаются подобные инициативы, в Евросоюзе тоже решили пойти по этому пути. В мае прошлого года Еврокомиссия предложила обязать ^[5] крупнейшие сервисы искать запрещённый контент, сканируя устройства пользователей — электронные письма, загружаемые в интернет файлы и даже сообщения в чатах компьютерных игр.

Перед отправкой сообщения или файла его хеш предлагают сличать со специальной БД запрещённого контента. Какой-либо специфики по этому вопросу пока нет, но учитывая объемы данных, можно предположить, что для этих целей придется использовать машинное обучение и системы ИИ.

Серьезная критика

Идею практически сразу раскритиковали ^[6] в Совете ЕС и Европейском надзорном органе по защите данных. Там посчитали, что предлагаемые меры несут угрозу неприкосновенности частной жизни и несоразмерны потенциальным угрозам. В марте 2023 года против инициативы также выступил парламент Германии. Политики заявили ^[5], что не поддержат вторжение в частную жизнь граждан.

Одна из главных проблем предложенного закона — чрезвычайно размытые ^[6] формулировки критериев запрещенного контента и методов его поиска. Они могут создать возможности для злоупотреблений, повысят ^[7] риск взлома ИТ-сервисов и пользовательских устройств хакерами.

В то же время системы автоматизированного поиска на базе искусственного интеллекта могут ошибаться. Эксперты оценивают ^[8] погрешность на уровне 10–20%. Чтобы избежать случайных срабатываний, контент придётся проверять вручную. Такой подход, опять же, ставит под угрозу приватность.

У экспертов также есть вопросы к эффективности подхода. Если ПО будет находить нарушителей закона по хэшам, злоумышленники со временем научатся ^[10] обходить алгоритмы (например, с помощью специальных хеш-фильтров). Но усиление защиты может привести ^[11] к увеличению числа ложных срабатываний.

Наконец, сторонники нового законопроекта заявляют, что шифрование покрывает лишь небольшую часть взаимодействий в интернете. И алгоритмы уже сейчас анализируют открытые данные на предмет нарушений. Однако они забывают, что результате закручивания гаек условные разработчики мессенджеров просто перестанут ^[4] работать на территории ЕС официально, как это обещают сделать крупные мессенджеры в Великобритании.

Дальнейший маршрут

Некоторые эксперты считают ^[11] использование ИИ-инструментов развитием существующих тенденций в модерации. Сервисам уже сейчас приходится искать компромиссы между конфиденциальностью пользователей и соблюдением законов, и вряд ли это изменится в ближайшем будущем.

Впрочем, новый законопроект ещё могут доработать ^[12] или вообще отменить. Но пока все выглядит так, что политики не планируют отказываться от идеи. Есть шанс, что новая норма будет принята, а технические детали доработают позже. Так уже произошло ^[13] в Австралии в 2018 году с запретом на end-to-end шифрование. Там местные сервисы работают совместно с правительством, чтобы оставаться в правовом поле.

О чем еще мы пишем в нашем корпоративном блоге:

• Нужен ли NAT в мире IPv6 ^[14]

• Больше протоколов для шифрования DNS-запросов ^[15]

• Pest — компактный p2p-протокол ^[16]