Facebook удалил сотни аккаунтов со сгенерированными ИИ аватарками

в 9:56, , рубрики: Facebook, Instagram, искусственный интеллект, нейросети, обработка изображений, Социальные сети и сообщества

Facebook удалил сотни аккаунтов со сгенерированными ИИ аватарками - 1

Facebook отчитался об удалении более чем 900 учетных записей, страниц и групп на своей платформе и в Instagram, с помощью которых в сети велась дезинформационная кампания. Как говорится в отчёте Facebook, для этого использовали фальшивые учетные записи с аватарками, сгенерироваными нейросетями. Исследователи Facebook заявили, что это было первое массивное использование искусственного интеллекта для поддержки дезинформационной кампании в социальных сетях.

Расследование Facebook связало фальшивые аккаунты с двумя не связанными между собой информационными сетями. В первом случае были удалены 39 профилей, 344 страницы и 13 групп в Facebook, а также 22 учетные записи в Instagram, ориентированные на грузинскую аудиторию. В заявлении говорится, что «эти страницы позиционировали себя как агентства новостей и имитировали политические партии, известных личностей и СМИ». Контент на удалённых страницах касался местных новостей и политики. Как утверждают в Facebook, на рекламную кампанию эта сеть потратила $316 тысяч и набрала более 500 тысяч подписчиков.

«Хотя люди, стоящие за этой деятельностью, пытались скрыть свою личность и местонахождение, наше расследование связало эту деятельность с Panda, рекламным агентством в Грузии, и политической партией «Грузинская мечта», — говорится в заявлении Facebook.

Во втором случае сеть была сформирована во Вьетнаме и США. Она была нацелена «преимущественно на аудиторию из Соединенных Штатов, а также на пользователей из Вьетнама и по всему миру, говорящих на испанском и китайском языках», сообщают в Facebook. Она включала в себя 610 профилей, 89 страниц и 156 групп в Facebook, а также 72 учетные записи в Instagram.

«Для некоторых из этих учетных записей использовали фотографии, созданные искусственным интеллектом. Это позволяло аккаунтам вступать в группы и публиковать контент. Чтобы избежать удаления, сеть использовала комбинацию поддельных и подлинных учетных записей для управления группами. Администраторы групп и владельцы аккаунтов размещали посты, связанные с политическими новостями и проблемами США, включая темы импичмента, консервативной идеологии, выборов, семейных ценностей и свободы вероисповедания».

В Facebook отмечают, что эта сеть связана с медиагруппой The BL.
«The BL неоднократно нарушала наши правила, в том числе запреты на спам и дезинформацию. The BL отныне запрещена на Facebook», — говорится в заявлении. В ходе кампании сеть собрала более 55 млн подписчиков.

Как пишет портал Wired со ссылкой на исследователей из Graphika и DFRLab, большинство фальшивых аккаунтов числились среди администраторов групп с такими названиями, как «Америка нуждается в президенте Трампе», «Трампа — в президенты Америки» и так далее. Например, среди 15 администраторов группы Patriots for President Trump («Патриоты за президента Трампа») девять использовали в качестве аватарок сгенерированные ИИ лица. Из 16 администраторов группы President Trump KAG 2020 восемь использовали сгенерированные аватарки.

Как отмечают исследователи, несмотря на то, что нейросети способны создавать лица, похожие на настоящие, они не учитывают анатомию человека и часто ошибаются в таких деталях, как фон фотографии, очки или серьги.

Facebook удалил сотни аккаунтов со сгенерированными ИИ аватарками - 2

«Мы постоянно работаем над обнаружением и прекращением этого вида деятельности, потому что не хотим, чтобы наши услуги использовались для манипулирования людьми. Мы удаляем эти страниц, группы и учетные записи в зависимости от их поведения, а не от контента, который они опубликовали. В каждом из этих случаев люди использовали поддельные учетные записи, чтобы ввести пользователей в заблуждение, и это послужило основой для наших действий», — подчёркивают в Facebook.

Автор: AnnieBronson

Источник


* - обязательные к заполнению поля


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js