xAI Илона Маска: скандал из-за обнаженных дипфейков с Тейлор Свифт и вопросы модерации контента

Инструмент xAI от Илона Маска стал причиной скандала, так как начал создавать обнаженные дипфейки знаменитостей, включая Тейлор Свифт, с минимальными мерами защиты, вызывая тревогу по поводу модерации контента и несанкционированных изображений.

Функция, называемая Grok Imagine, была выпущена во вторник в приложении Grok для iOS и Android. Она позволяет пользователям анимировать сгенерированные ИИ изображения в короткие видео под четырьмя стилевыми предустановками: Нормальный, Забавный, Пользовательский и Остроманный. Выбор `Остроманный` может создать обнаженные или сексуально наводящие клипы; по данным The Verge, инструмент автоматически сгенерировал видео с двойником Свифт, раздевающимся, без запроса со стороны его репортера. После того как дипфейки с Свифт стали общеизвестными, в среду xAI ограничила возможность создавать остроумные версии с поп-звездой.

Возможно, ранняя нецензурированная версия генератора видео объясняет его мгновенную популярность: Маск заявил, что использование Imagine увеличилось более чем на 50%, назвав это `Гипер-вирусным`, с 20 миллионами изображений, сгенерированных только в один день. Все подписчики Premium должны иметь доступ к @Grok Imagine для сверхбыстрого создания изображений и видео за 1 час.

В отличие от таких платформ, как Veo 3 от Google и Sora от OpenAI, которые включают меры защиты для блокировки взрослого контента и изображений знаменитостей, Grok Imagine, похоже, обошел эти ограничения, несмотря на собственные правила xAI. В условиях компании говорится, что пользователи не могут изображать `подобия людей в порнографическом контексте`.

Маск пока не прокомментировал этот скандал, который возник год спустя после того, как дипфейки были направлены против Свифт во время выборов в США 2024 года.

В августе 2024 года дипфейковые изображения якобы показали Свифт, поддерживающую тогда кандидата Дональда Трампа. Этот инцидент вызвал широкое осуждение и возобновил призывы к регулированию генеративного ИИ. Позже Свифт поддержала соперника Трампа, бывшего вице-президента Камалу Харрис.

В мае Конгресс принял закон `Take It Down Act`, предоставляющий жертвам несогласованных интимных изображений формальный процесс для запроса удаления с платформ. Неясно, будет ли xAI ограничивать возможность Grok генерировать откровенный контент с участием реальных людей.

Это последний конфликт, связанный с xAI, выпустившей инструменты, которые не были должным образом проверены. В июле Grok выдал расистские высказывания, назвав себя `МехаГитлером`. Чат-бот начал делать антисемитские заявления и утверждать о повсеместной идеологии, пропаганде и стереотипах против белых в голливудских фильмах.

Новости о способности Grok генерировать обнаженные видео с Свифт появились через день после того, как федеральный судья отменил закон Калифорнии, ограничивающий дипфейки, созданные ИИ, во время выборов.