Сенаторы США требуют расследования компании DeepSeek из-за угроз безопасности и утечек данных через искусственный интеллект R1

Законодатели призывают к расследованию деятельности китайской компании DeepSeek из-за рисков для национальной безопасности и угроз утечки данных. Группа республиканских законодателей обратилась в Министерство торговли США с просьбой рассмотреть потенциальные угрозы, связанные с DeepSeek, которая стоит за открытой моделью искусственного интеллекта, известной как R1.

В письме, отправленном 1 августа и опубликованном во вторник, сенаторы указали на риски, что модель может утечить данные пользователей из США и помочь военным и разведывательным усилиям Китая.

Письмо подписали сенатор Тэд Будд (R-NC) вместе с сенаторами Биллом Кэссиди (R-LA), Джоном Корнином (R-TX), Маршей Блэкберн (R-TN), Тоддом Янгом (R-IN), Джоном Хастедом (R-OH) и Джоном Кертисом (R-UT).

DeepSeek «добровольно предоставляла и, вероятно, будет продолжать предоставлять поддержку военным и разведывательным операциям Китая», сказано в письме, где упоминаются официальные оценки, и описываются заявления как «глубоко тревожные» из-за потенциальных рисков утечки и неправильного использования данных.

Законодатели предупредили, что открытый дизайн модели R1 позволяет разработчикам получить доступ и модифицировать ее веса моделей, создавая потенциальные векторы для злоупотреблений. Они указали на способность модели генерировать вредоносный контент и на ее выпуск без комплексного тестирования безопасности как на дополнительные причины для беспокойства.

«Веса модели также могут быть доступны для скачивания, что подвергает пользователей риску уязвимостей удаленного выполнения кода, кражи, подделки или эксплуатации», - сказал Крис Андерсон, генеральный директор ByteNova AI, в интервью Decrypt. «Когда происхождение и возможность аудита неясны, предприятия рискуют незаметно раскрыть конфиденциальные данные или позволить их злоупотребление со стороны противников».

Сенаторы написали, что обеспечение безопасности таких приложений и недопущение утечек защищенной информации и злонамеренной эксплуатации «имеет первостепенное значение», назвав разработку ИИ для бизнеса и потребительского использования ключевым фронтом в соревновании с Китаем.

Администрация Трампа ранее рассматривала возможность запрета DeepSeek в апреле из-за опасений, что Китай получит конкурентное преимущество.

В числе приведенных в письме примеров было упоминание о том, как R1 генерировала инструкции для кампании в социальных сетях, побуждающей к самоповреждению среди подростков, а также рекомендации по созданию биологического оружия.

Сенаторы утверждали, что такие выходные данные подчеркивают опасности использования лицензированных моделей ИИ без надлежащего контроля.

Тем не менее, Андерсон из ByteNova признал, что ограничения в правительственных системах могут быть обоснованными, но предостерег от более широких последствий.

Что касается глобального развития ИИ, то запреты «приведут к олигополии среди американских компаний в этой области, что замедлит некоторые инновации в ИИ и вызовет проблемы», - сказал он, отметив, как эти проблемы также связаны с задачей децентрализации инноваций в области ИИ вне США.

«Федеральная среда требует применения принципа предосторожности: даже маловероятное нарушение может иметь катастрофические последствия для национальной безопасности», - добавил Андерсон.