Meta критикує за вірусний дипфейк з Роналду, що порушив стандарти спільноти

Meta Oversight Board критикує материнську компанію через вірусний дипфейк з Роналду

Наглядова рада Meta наказала видалити пост у Facebook, що демонструє відео, штучно модифіковане за допомогою AI, з бразильським футбольним легендою Роналду Назаріо, який рекламує онлайн-гру.

Рада заявила, що пост порушувавСтандарти спільноти Meta щодо шахрайства та спаму, і критично оцінила компанію за те, що дозволила вводити в оману, залишивши відео онлайн.

“Видалення поста відповідає Стандартам спільноти Meta щодо шахрайства та спаму. Meta також мала б відхилити цей контент для реклами, оскільки її правила забороняють використовувати образи відомих осіб для спонукання людей до взаємодії з рекламою,” - йдеться в заяві Наглядової ради у четвер.

Наглядова рада, незалежний орган, який розглядає рішення про модерацію контенту в материнській компанії Meta, має право підтверджувати або скасовувати рішення про видалення та може видавати рекомендації, на які компанія зобов`язана реагувати.

Орган було створено в 2020 році для забезпечення підзвітності та прозорості дій, пов`язаних із регулюванням компанії Meta.

Цей випадок підкреслює зростаюче занепокоєння щодо зображень, згенерованих AI, які неправдиво зображують людей, показуючи, як вони говорять чи роблять те, чого насправді не робили.

Ці технології все частіше використовуються для шахрайства, обману та дезінформації.

У цьому випадку відео показувало погано синхронізований озвучений голос Роналду Назаріо, який закликав користувачів грати в гру під назвою Plinko через свій додаток, неправдиво обіцяючи, що користувачі можуть заробити більше, ніж виконуючи звичайні роботи в Бразилії.

Пост зібрав понад 600,000 переглядів, перш ніж його помітили.

Але, незважаючи на те, що його було повідомлено, розгляд контенту не був пріоритетним, і пост не був видалений.

Користувач, який його повідомив, потім оскаржив рішення Meta, де воно знову не було пріоритетним для людського розгляду. Нарешті, користувач звернувся до Наглядової ради.

Зростання дипфейків

Це не перший випадок, коли Meta отримує критику за своє управління дипфейками з зображеннями знаменитостей.

Минулого місяця акторка Джеймі Лі Кертіс

зіткнулася з генеральним директором Марком Цукербергом в Instagram після того, як її образ було використано в рекламі, згенерованій AI, що спонукало Meta вимкнути рекламу, але залишити оригінальний пост онлайн.

Рада виявила, що лише спеціалізовані команди в Meta можуть видаляти такого роду контент, що свідчить про широко розповсюджене недотримання правил. Вона закликала Meta застосовувати свої політики проти шахрайства більш послідовно по всій платформі.

Це рішення прийшло на фоні більш широкого законодавчого руху щодо обмеження зловживань дипфейками.

У травні Президент Дональд Трамп підписав двопартійний законопроектTake It Down Act, зобов`язуючи платформи видаляти неконсенсуальні, інтимні, згенеровані AI зображення протягом 48 годин.

Закон відповідає на зростання дипфейкового порнографії та зловживань зображеннями, що стосуються знаменитостей та неповнолітніх.

Цього тижня Трамп сам бувпід прицілом вірусного дипфейку, на якому його зображували, як він закликає динозаврів охороняти південний кордон США.