Исследование показало, что 96% дипфейков в интернете — это порно с известными женщинами или бывшими подругами

В ноябре 2017 года аккаунт Reddit под названием deepfakes опубликовал первые в интернете порнографические видеоролики, в которых программное обеспечение заменяло лица реальных актрис лицами голливудских знаменитостей. Почти два года спустя «дипфейки» стали общим явлением и термином, который описывает любое поддельное видео, сделанное с помощью программ ИИ. Этот метод используют и для смешных видеороликов на YouTube, он также вызывает озабоченность законодателей, опасающихся политической дезинформации. Тем не менее, новое исследование говорит о том, что дипфейки в основном остаются верными своим непристойным корням.

Стартап Deeptrace провел своего рода перепись дипфейков ^[1] в июне-июле 2019 года, чтобы отрекламировать свои инструменты обнаружения, которые он надеется продать новостным организациям и онлайн-платформам. Всего стартап обнаружил 14 678 видеороликов, открыто представленных в качестве дипфейков: почти в два раза больше, чем семь месяцев назад. Около 96% из них оказались порнографическими.

История дипфейков повторяют историю многих других медиатехнологий, которые получили распространение благодаря порно: от VHS до потокового вещания.

Перепись вряд ли можно назвать исчерпывающей, но выводы напоминают о том, что о спекуляциях на выборах говорить пока рано. Технология в основном используется совсем по-другому, в том числе в качестве инструмента для онлайновой травли. При этом Deeptrace отмечает, что программы для создания дипфейков становятся всё более продвинутыми и более доступными.

Отчёт стартапа описывает процветающую экосистему веб-сайтов и форумов, где люди делятся, обсуждают и совместно изготавливают порнографические дипфейки. Некоторые из них являются коммерческими предприятиями. Они продают рекламу в видеоклипах, куда лица девушек вставляется без их согласия.

Почему девушек? Потому что все «поддельные» люди в порноклипах Deeptrace женского пола. Видеоролики с самыми популярными фигурами — западными актрисами и южнокорейскими поп-знаменитостями — собрали миллионы просмотров. Некоммерческие организации уже сообщили о том, что женщины-журналисты и политические активистки подвергаются атакам с помощью этого нового метода. Генри Айдер, исследователь Deeptrace, который работал над отчётом, говорит, что есть форумы, где пользователи обсуждают или даже заказывают создание дипфейков с женщинами, которых знают. Например, с бывшими подругами, потому что хотят увидеть их в конкретном порно (или просто в любом порно).

Даниэла Цитрон (Danielle Citron), профессор права в Бостонском университете, описывает порнографические дипфейки, сделанные без согласия человека, как «вторжение в сексуальную частную жизнь». Она уже выступила на июньских слушаниях комитета по разведке Палаты представителей США об инструментах манипулирования средствами искусственного интеллекта, пишет ^[2] Wired.

По её мнению, преобладание порнографических дипфейков является напоминанием о другом уроке из истории технологий: «На каждом этапе мы видели, что люди используют то, что есть под рукой, чтобы мучить женщин. Дипфейки представляют иллюстрацию этого», — говорит профессор права и активистка.

Цитрон помогла принять новое законодательство об уголовном наказании за месть через порно, которое сейчас действует по крайней мере в 46 штатах и округе Колумбия. В их число входит и Калифорния: на прошлой неделе губернатор Гэвин Ньюсом (Gavin Newsom) подписал закон, который позволяет человеку, вставленному в откровенно сексуальный материал без его согласия, подать гражданский иск против того, который создал или опубликовал этот видеоролик.

Сейчас Цитрон обсуждает с законодателями Палаты представителей и Сената новое федеральных законодательство, чтобы наказывать распространение вредоносных фейков, в том числе дипфейков. Идею поддерживают представители обеих партий. Некоторые заявляют даже, что дипфейки представляют угрозу всей американской демократии (вероятно, тут речь всё-таки не о порнографических дипфейках, а о разрушении общего уровня доверия в обществе, над чем давно работают различные генераторы фейковых новостей).

Уровень доверия в обществе — это действительно важный цивилизационный фактор. Фрэнсис Фукуяма в книге «Доверие: социальные добродетели и путь к процветанию» описывает отдельные экономические, политические и социальные модели реальных стран с разным уровнем доверия (Россия, США, Англия, Франция, Германия, Япония, КНР, КНДР и пр.). Автор рассматривает различные модели управления, введённые в этих странах, линию правительства, роль внутрисемейных отношений и воспитания, открытых религиозных организаций и закрытых сект и пр. Все аспекты сплетаются в единую систему, основанную на цифрах и логике, при помощи этой системы автор наглядно показывает важность доверия в пост-индустриальную эпоху.

Автор: alizar

Источник ^[3]