Скандал з Дартом Вейдером у Fortnite: Штучний інтелект почав говорити расистські слова

Розробник гриFortnite компаніяEpic Games додала персонажа, що користується штучним інтелектом, - Дарт Вейдера, створеного на основі ліцензованої схожості покійного актора озвучки Джеймса Ерла Джонса. Проте ситуація швидко вийшла з-під контролю, оскільки гравці змогли змусити штучний інтелект говорити расистські та гомофобні слова, а також ненормативну лексику.

Персонаж було представлено у п`ятницю в рамках кросоверівStar Wars таFortnite у події «Fortnite: Galactic Battle». Діалоги Дарт Вейдера вFortnite були створені компанією з Нью-ЙоркаElevenLabs. Персонаж на основі штучного інтелекту здатен реагувати на дії гравців в режимі реального часу.

Вже через кілька годин після запуску в соціальних мережах почали з`являтися відеокліпи, на яких гравці спокушають персонажа ізStar Wars на расистські та гомофобні висловлювання, а також ненормативну лексику. Гравці змогли змусити Дарт Вейдера говорити слова або імена, які звучали як мова ненависті, образи або інші нецензурні слова.

Декілька гравців поділилися відео в соціальних мережах, показуючи, як персонаж реагує зневажливими словами. У відповідь на одне з вірусних відео,Epic Games заявила, що було випущено термінове виправлення, щоб виправити новий словник Вейдера.

«Ми відразу ж випустили термінове виправлення, і це більше не має повторитися», - написала компанія в X.

Відповідаючи на запитання,Epic Games визнала недолік модерації контенту перед додаванням Дарт Вейдера доFortnite.

«Хоча ми додали кілька конкретних правил та інструкцій як частину наших обмежень, щоб запобігти використанню ненормативної лексики, у цьому випадку наші фільтри не зафіксували специфічну модифікацію ненормативного слова», - сказав представникEpic Games у коментарі дляDecrypt. «Наше термінове виправлення вирішує цю конкретну ситуацію».

Згідно з представником, функція штучного інтелекту включає три рівні фільтрів безпеки. Перший - це налаштування безпекиGemini. Другий надає системні інструкції для запобігання створенню відповідей, які порушують правила спільноти або можуть зашкодити гравцям. А третій - це остаточний огляд для виявлення залишкових порушень, таких як мова ненависті чи явна мова, згадки про самопошкодження або небезпечні чи незаконні дії.

Дарт Вейдер на основі штучного інтелекту був створений за архівними записами голосу Джеймса Ерла Джонса. Джонс, який помер у 2024 році, раніше ліцензував свою вокальну схожістьLucasfilm, що дозволило продовжити зображення персонажа в нових медіа навіть після його смерті.

«Дарт Вейдер не був би таким зловісним без легендарного виконання Джеймса Ерла Джонса, який озвучував Вейдера у фільмахStar Wars», - зазначилаEpic Games у заяві. «Ми з гордістю використовуємо голос покійного містера Джонса і дякуємо його спадщині за можливість зробити це для гравців».

З 2023 року компанія почала використовувати генеративні AI-творіння через свою платформуEpic Games Store, незважаючи на те, що конкуренти намагаються заблокувати нову технологію.

Це не перший випадок, коли контент, згенерований штучним інтелектом, став проблемою вFortnite. У січні 2024 рокуEpic поспішила видалити расистські AI-зображення з користувацьких островів після обурення гравців. КомпаніяEpic Games зазначила, що всі користувацькі острови рецензуються модераторами перед публікацією, але при цьому команда користується легким підходом.

«Ми просимо нашу команду модерації вважати, що автор має добрі наміри, якщо вони не впевнені в порушенні контенту, щоб не надто цензурувати», - сказалаEpic Games.

Редакція:Ендрю Хейворд