В Китае публикацию дипфейков отнесли к уголовным преступлениям

Власти Китая объявили любую публикацию заведомо ложной информации, в том числе дипфейков, уголовным преступлением. Соответствующий закон вступит в силу 1 января 2020 года ^[1].

Согласно новым нормам, все дипфейки нужно будет отмечать специальной пометкой, которая будет предупреждать пользователей о том, что это ненастоящая новость.

Закон приняла Администрация киберпространства Китая. Чиновники отметили, что использование дипфейк-технологий может «поставить под угрозу национальную безопасность, подорвать социальную стабильность, а также нарушить общественный порядок и ущемить законные права и интересы граждан».

Стоит отметить, что в сентябре китайские разработчики выпустили приложение ZAO, которое позволяло моментально создавать дипфейк-видео с определенным человеком при помощи всего одного его портрета. ZAO стало самым популярным приложением в китайском AppStore. Изначально в пользовательском соглашении говорилось, что все права на созданный контент принадлежат разработчикам. Позднее в ZAO пообещали удалять контент со своих серверов, если пользователь удалит его у себя в смартфоне.

См. также: «Исследование показало, что 96% дипфейков в интернете — это порно с известными женщинами или бывшими подругами ^[2]»

В октябре в Калифорнии были приняты первые два законопроекта в США ^[3], касающиеся дипфейков. Первый делает незаконным размещение любых видео с манипуляциями в политических целях — например, замена лица или речи кандидата для его дискредитации. Второй позволит жителям штата подать в суд на любого, кто использует дипфейк в порнографическом видео. Авторы законопроекта утверждали, что распространение роликов, созданных с помощью технологии Deepfake, в которых к тому же фигурируют политики, могут обмануть общественность и повлиять на результаты выборов.

В Конгрессе США находятся на рассмотрении четыре законопроекта ^[4], касающиеся дипфейков. В них также содержатся положения о маркировке подобных видео и обязательствах указывать их создателей. Если нормы будут одобрены, то распространителей сомнительного контента можно будет штрафовать.

См. также: «ИИ от Amazon облегчает борьбу с непристойным контентом, загружаемым пользователями ^[5]»

Коммерческие компании включились в борьбу с дипфейками. Facebook совместно с Microsoft и коалицией «Партнёрства по искусственному интеллекту во благо людей и общества» (PAI), а также научными работниками из нескольких университетов в сентябре объявили конкурс на разработку технологии распознавания deepfake ^[6]. Facebook поручит исследователям создавать реалистичные дипфейки, после чего участники конкурса будут прорабатывать алгоритмы их обнаружения. Призовой фонд проекта составляет $10 миллионов. Первые дипфейки для конкурса протестируют на Международной конференции по компьютерному зрению, а весь набор видео для работы выпустят в декабре.

Google в сотрудничестве с компанией Jigsaw (бывшей Google Ideas) также в сентябре выпустила обширный датасет ^[7], в который вошло более трех тысяч видеороликов, созданных с помощью искусственного интеллекта. Видеоролики исследователи добавили в другой большой проект, посвященный подмене лиц на видео, — FaceForensics++.

В октябре Facebook AI Research заявила о разработке системы машинного обучения, которая не дает искусственному интеллекту определять людей по видео ^[8]. Алгоритм просто заменяет лицо человека его слегка искаженной версией, а ИИ использует архитектуру кодировщика-декодера и генерирует искаженные и неискаженные изображения лица человека, которые затем можно встроить в видео. В Facebook заявили об отсутствии планов по применению новой технологии в приложении. Однако данную систему можно использовать при создании материалов, которые остаются узнаваемыми для людей, а также для обучения систем ИИ с целью улучшения систем восприятия глубины видео.

Автор: maybe_elf

Источник ^[9]