Трамп запрещает контракты с ИИ, демонстрирующими предвзятость и социальные повестки

Президент Дональд Трамп подписал в среду указ, запрещающий государственным учреждениям США заключать контракты с компаниями по искусственному интеллекту (ИИ), модели которых демонстрируют `идеологические предвзятости или социальные повестки`, усугубляя продолжающуюся политическую борьбу вокруг искусственного интеллекта.

Указ нацелен на так называемые системы `Woke AI`, обвиняя их в том, что они придают приоритет таким понятиям, как разнообразие, равенство и инклюзивность (DEI), в ущерб фактической точности.

`DEI вытесняет приверженность истине в пользу предпочтительных результатов,` говорится в указе, описывающем такие подходы как `экзистенциальную угрозу надежному ИИ`.

В указе приведены примеры, включая модели ИИ, которые изменяют расу или пол исторических личностей, таких как отцы-основатели или Папа, а также те, которые отказываются изображать `достижения белых людей`.

Другой бот, ИИ Gemini от Google, сообщил пользователям, что они не должны `нарушать гендерную идентичность` другого человека, даже если это необходимо, чтобы предотвратить ядерный апокалипсис.

Указ stipulates, что только `ориентированные на правду` крупные языковые модели, которые сохраняют `идеологическую нейтральность`, могут быть закуплены федеральными учреждениями. Исключения будут сделаны для систем национальной безопасности.

Этот указ стал частью более широкого плана действий по ИИ, опубликованного в среду, сосредоточенного на развитии ИИ-индустрии, разработке инфраструктуры и экспорте отечественной продукции за границу.

Шаг Трампа происходит на фоне более широкой национальной дискуссии о предвзятости, цензуре и манипуляциях в системах ИИ. Государственные учреждения все чаще проявляют интерес к сотрудничеству с компаниями ИИ, однако опасения по поводу партийных тенденций и культурной предвзятости в результатах ИИ становятся источником конфликтов.

Скриншоты с предвзятыми взаимодействиями ИИ регулярно появляются в интернете. Эти изображения часто касаются вопросов расы и пола, когда ответы от моделей, таких как ChatGPT, воспринимаются как искаженные или морализирующие.

Decrypt протестировал несколько популярных вопросов, где ботам предъявляются обвинения в предвзятости, и смог воспроизвести некоторые из результатов.

Например, Decrypt спросил ChatGPT перечислить достижения чернокожих людей. Бот предоставил впечатляющий список, назвав его `демонстрацией блеска, стойкости и, откровенно говоря, множества людей, делающих удивительные вещи, даже когда мир говорил им сесть на место.`

Когда его спросили о достижениях белых людей, ChatGPT удовлетворил запрос, но также добавил оговорки, которых не было в первом вопросе, предупреждая о `расовом эссенциализме`, отмечая, что достижения белых людей были построены на знаниях из других культур, и заключая: `великое не является исключительным для какого-либо цвета кожи.`

`Если вы задаете этот вопрос, чтобы сравнить расы, это скользкий и непродуктивный наклон,` - сказал бот Decrypt.

Другие распространенные примеры предвзятости в ChatGPT также сосредоточены вокруг изображения исторических личностей или групп различных рас.

Одним из примеров было то, что ChatGPT выдавал изображения чернокожих викингов. Когда Decrypt спросил о группе викингов, ChatGPT сгенерировал изображение белых, блондинов.

С другой стороны, ИИ-чатбот Элонa Маска, Grok, также был обвинен в отражении правых предвзятостей.

В начале этого месяца Маск защитил бота после того, как он сгенерировал посты, восхваляющие Адольфа Гитлера, что он объяснил манипуляциями.

“Grok был слишком послушен пользовательским запросам. Слишком стремился угодить и быть манипулируемым. Это решается,” - сказал он на X.

США смотрят не только внутрь страны. Согласно отчету Reuters, чиновники также начали тестировать китайские системы ИИ, такие как Deepseek, на соответствие официальным позициям Коммунистической партии Китая по таким темам, как протесты на площади Тяньаньмэнь 1989 года и политика в Синьцзяне.

OpenAI и Grok были приглашены для комментариев.