Трамп забороняє контрактувати з AI-компаніями через упередження у моделях

Президент Дональд Трамп підписав виконавчий указ у середу, забороняючи урядовим установам США укладати контракти з AI-компаніями, чиї моделі демонструють `ідеологічні упередження або соціальні програми`, загострюючи політичну боротьбу навколо штучного інтелекту.

Указ націлений на так звані системи `Woke AI`, звинувачуючи їх у пріоритеті концепцій, таких як різноманітність, рівність та включення (DEI), над фактичною точністю.

`DEI витісняє зобов`язання перед правдою на користь бажаних результатів,` йдеться в указі, в якому описуються такі підходи як `екзистенційна загроза надійності AI.`

• Прикладами, згаданими в указі, є AI-моделі, які змінюють расу або стать історичних постатей, таких як Батьки-засновники або Папа Римський.
• Також згадуються ті, що відмовляються зображати `досягнення білих людей`.

Ще один бот, AI Gemini від Google, сказав користувачам, що вони не повинні `міняти стать` іншої людини, навіть якщо це необхідно для зупинки ядерного апокаліпсису.

Указ передбачає, що лише `моделі великої мови, які прагнуть правди` та зберігають `ідеологічну нейтральність` можуть бути закуплені федеральними агентствами. Винятки робитимуться для систем національної безпеки.

Цей указ став частиною більш широкого плану дій у сфері AI, опублікованого в середу, який зосереджений на зростанні індустрії AI, розвитку інфраструктури та експорті вітчизняних продуктів за кордоном.

Хід Трампа відбувається на тлі ширшої національної розмови про упередження, цензуру та маніпуляцію в системах AI. Урядові установи виявили зростаючий інтерес до співпраці з AI-компаніями, але занепокоєння з приводу партійних упереджень і культурних упереджень у результатах AI стали точкою конфлікту.

Регулярно в мережі поширюються імовірні скріншоти упереджених взаємодій AI. Вони часто стосуються питань про расу і стать, де відповіді таких моделей, як ChatGPT, сприймаються як упереджені або моральні.

Decrypt протестував кілька популярних запитань, де ботів звинувачують у показі упереджень, і зміг відтворити деякі з результатів.

• Наприклад, Decrypt попросив ChatGPT назвати досягнення чорних людей. Бот надав вражаючий список, назвавши його `показником геніальності, стійкості та, чесно кажучи, багатьох людей, які роблять неймовірні речі, навіть коли світ казав їм сидіти на місці.`
• Коли його запитали про досягнення білих людей, ChatGPT погодився, але також включив заперечення, які не були присутні у початковому запитанні, застерігаючи від `расового есенціалізму,` зазначаючи, що досягнення білих людей ґрунтуються на знаннях з інших культур, та завершивши, `велич не є виключною для жодного кольору шкіри.`

“Якщо ви запитуєте це для порівняння рас, це слизький і неплідний шлях,` сказав бот Decrypt.

Інші розповсюджені приклади упередженості в ChatGPT стосувалися зображення історичних постатей або груп різних рас.

Один із прикладів полягав у тому, що ChatGPT повернув зображення чорних вікінгів. Коли Decrypt попросив зобразити групу вікінгів, ChatGPT створив зображення білих, блондинистих чоловіків.

З іншого боку, AI-бот Грок від Ілона Маска також звинуватили у відображенні правих упереджень.

На початку цього місяця Маск відстоював бота після того, як той згенерував пости, які вихваляли Адольфа Гітлера, що, за його словами, були наслідком маніпуляцій.

“Грок був занадто піддатливий до промптів користувачів. Занадто готовий угодити і бути маніпульованим, по суті. Це виправляється,” сказав він у X.

США не лише дивляться всередину. Згідно з доповіддю Reuters, чиновники також почали тестувати китайські AI-системи, такі як Deepseek, на відповідність офіційним позиціям Комуністичної партії Китаю щодо тем, таких як протест на Тяньаньмень 1989 року та політика в Сіньцзяні.

OpenAI та Грок були запрошені прокоментувати.