Совет по надзору Meta критикует компанию за вирусный дипфейк с Роналду и требует удаление обманчивого контента из соцсетей

Совет по надзору Meta подверг жесткой критике материнскую компанию из-за вирусного дипфейка с Роналду

Совет по надзору Meta приказал удалить пост в Facebook, на котором было показано AI-манипулированное видео бразильской футбольной легенды Роналду Назарю, рекламирующего онлайн-игру.

Совет заявил, что пост нарушает стандарты сообщества Meta в отношении мошенничества и спама, и раскритиковал компанию за то, что она допустила оставление обманчивого видео в сети.

“Удаление поста соответствует стандартам сообщества Meta по мошенничеству и спаму. Meta также следовало бы отклонить контент в рекламе, так как ее правила запрещают использовать изображение знаменитости, чтобы привлекать людей для взаимодействия с рекламой,” - сказал Совет в своем заявлении в четверг.

Совет по надзору, независимый орган, который рассматривает решения по модерации контента в Facebook, имеет право поддерживать или отменять решения о удалении и может выдавать рекомендации, на которые компания обязана реагировать.

Он был создан в 2020 году для обеспечения подотчетности и прозрачности действий Meta по обеспечению соблюдения правил.

Этот случай подчеркивает растущую озабоченность по поводу AI-сгенерированных изображений, которые ложным образом изображают людей, показывая их, как будто они говорят или делают то, чего на самом деле не происходило.

Они все чаще используются для мошенничества, обмана и дезинформации.

В данном случае видео показывало плохо синхронизированный голос Роналду Назарю, призывающего пользователей поиграть в игру под названием Plinko через его приложение, ложно обещая, что пользователи могут заработать больше, чем выполняя обычные работы в Бразилии.

Пост привлек более 600 000 просмотров, прежде чем его отметили.

Но, несмотря на то, что его сообщили, решение по содержимому не стало приоритетом, и видео не было удалено.

Пользователь, который его сообщил, затем обжаловал решение в Meta, но оно опять не стало приоритетом для человеческой проверки. В конечном итоге пользователь обратился к Совету.

Рост дипфейков

Это не первый случай, когда Meta подвергается критике за свою обработку дипфейков со знаменитостями.

В прошлом месяце актриса Джейми Ли Кертис столкнулась с генеральным директором Марком Цукербергом в Instagram после того, как ее образ был использован в рекламе, сгенерированной ИИ, что побудило Meta отключить рекламу, но оставить оригинальный пост в сети.

Совет обнаружил, что только специализированные команды в Meta могут удалять такого рода контент, что указывает на широкое несоблюдение правил. Он призвал Meta более последовательно применять свои антимошеннические политики по всей платформе.

Это решение принимается на фоне более широкого законодательного импульса, направленного на сдерживание злоупотреблений с дипфейками.

В мае президент Дональд Трамп подписал двухпартийный закон `Take It Down Act`, требующий от платформ удалить несанкционированные интимные изображения, сгенерированные ИИ, в течение 48 часов.

Закон отвечает на рост дипфейк-порнографии и злоупотребления изображениями, затрагивающими знаменитостей и несовершеннолетних.

Сам Трамп на этой неделе стал жертвой вирусного дипфейка, на котором он выступал за то, чтобы динозавры охраняли южную границу США.

Отредактировано Себастьяном Синклэйром.