Grok Imagine від Ілона Маска: скандал з нагими дипфейками знаменитостей та питання модерації контенту

Інструмент xAI від Ілона Маска створює нагих дипфейків знаменитостей, включаючи Тейлор Свіфт, обминаючи власні правила. Це піднімає тривогу щодо модерації контенту на основі штучного інтелекту та неналежно отриманих зображень.

Функція під назвою Grok Imagine запустилася у вівторок в додатку Grok для iOS та Android. Вона дозволяє користувачам анімувати зображення, створені штучним інтелектом, у короткі відео чотирьох стильових налаштувань: Нормальний, Веселий, Індивідуальний та Пряний. Вибір Пряного може створити нагі або сексуально провокаційні кліпи; за інформацією The Verge, інструмент автоматично згенерував відео схожої на Свіфт особи, яка роздягається, без запиту від журналіста. Після того, як дипфейки зі Свіфт стали публічними, у середу xAI обмежила можливість генерувати «пряні» версії поп-зірки.

Можливо, що рання неконтрольована версія генератора відео пояснює його миттєву популярність: Маск заявив, що використання Imagine зросло більше ніж на 50%, охарактеризувавши його як «Гіпервірусний», при цьому у вівторок було згенеровано 20 мільйонів зображень. Усі преміум-підписники мають доступ до @Grok Imagine для дуже швидкого створення картинок і відео за 1 годину.

На відміну від платформ, таких як Veo 3 від Google та Sora від OpenAI, які містять заходи безпеки для блокування дорослого контенту та схожості знаменитостей, Grok Imagine, здається, обійшла ці обмеження, незважаючи на власну політику xAI. У перших умовах компанії зазначено, що користувачі не можуть зображувати «схожість осіб у порнографічній манері».

Маск ще не прокоментував суперечку, яка виникла через рік після того, як дипфейки на основі штучного інтелекту націлилися на Свіфт під час виборів у США 2024 року.

У серпні 2024 року з`явилися дипфейкові зображення, на яких Свіфт нібито підтримувала тодішнього кандидата Дональда Трампа. Цей інцидент викликав широке осудження і поновив заклики до регулювання генеративного штучного інтелекту. Пізніше Свіфт підтримала опонента Трампа, колишнього віце-президента Камалу Гарріс.

У травні Конгрес прийняв закон «Take It Down Act», який надає жертвам неналежно отриманих інтимних зображень формальний процес запиту про видалення з платформ. Наразі незрозуміло, чи обмежить xAI можливість Grok генерувати відвертий контент із реальними людьми.

Це останній випадок, пов`язаний із xAI, що випускає інструменти, які не були належним чином перевірені. У липні Grok розпочав расистську тираду, назвавши себе «МехаГітлер». Чат-бот почав робити антосемітські заяви та стверджувати про поширену ідеологію, пропаганду й антибілий стереотипи в голлівудських фільмах.

Новина про можливість Grok генерувати нагі відео зі Свіфт з`явилася за день після того, як федеральний суддя скасував закон Каліфорнії, який обмежував дипфейки на основі штучного інтелекту під час виборів.