Загроза національній безпеці: законодавці США вимагають розслідування щодо штучного інтелекту DeepSeek з Китаю

Група республіканських законодавців закликала Міністерство торгівлі США провести розслідування потенційних загроз національній безпеці, пов`язаних із компанією DeepSeek, китайською компанією, що розробила відкриту модель штучного інтелекту, відому як R1.

У листі, надісланому 1 серпня і опублікованому у вівторок, сенатори зазначили ризики, що модель може витікати дані користувачів з США та допомагати військовим і розвідувальним зусиллям Китаю.

Лист очолив сенатор Тед Будд (R-NC), його підписали сенатори Білл Кассіді (R-LA), Джон Корнін (R-TX), Марша Блекберн (R-TN), Тодд Янг (R-IN), Джон Хустед (R-OH) та Джон Кертіс (R-UT).

У листі йдеться, що DeepSeek «добровільно надавала і, ймовірно, буде й надалі надавати підтримку військовим та розвідкам Китаю», цитуючи офіційні оцінки й описуючи ці заяви як «глибоко тривожні» через потенційні ризики витоку та зловживання даними.

Законодавці попередили, що відкрите проектування DeepSeek R1 дозволяє розробникам отримувати доступ і модифікувати ваги моделі, що створює потенційні вектори для зловживань. Вони вказали на здатність моделі генерувати шкодочинний контент і на те, що вона була випущена без всебічного тестування безпеки як додаткову причину для занепокоєння.

«Ваги моделі також можуть бути доступні для публічного завантаження, за що користувачі можуть піддаватися перевірці з боку вразливостей віддаленого виконання коду, крадіжки, підробки або експлуатації», - зазначив Кріс Андерсон, генеральний директор ByteNova AI, у коментарі для Decrypt. «Коли походження та можливість аудиту неясні, підприємства ризикують ненавмисно розкрити чутливі дані або дати можливість для зловживання зловмисниками.»

Сенатори написали, що забезпечення таких додатків «безпечними і не схильними до витоку захищеної інформації та злочинних експлуатацій є надзвичайно важливим», називаючи розвиток штучного інтелекту для бізнесу та споживачів ключовим фронтом у суперництві з Китаєм.

Адміністрація Трампа раніше розглядала можливість заборони DeepSeek у квітні через занепокоєння, що Китай отримає конкурентну перевагу.

Одним з прикладів, зазначених у листі, було те, що R1 наводила інструкції для соціальної медіа-кампанії, що закликає до самопошкодження серед підлітків, а також надавала поради щодо створення біозброї.

Сенатори стверджували, що такі виходи підкреслюють небезпеки розгортання моделей штучного інтелекту з дозволом без належного нагляду.

Проте Андерсон з ByteNova визнав, що обмеження в урядових системах можуть бути виправданими, але попередив про більш широкі компроміси.

Щодо глобального розвитку штучного інтелекту заборони «призведуть до олігополії серед американських компаній ШІ, тим самим уповільнюючи деякі інновації в ШІ та викликаючи проблеми», - сказав він, зазначаючи, як ці проблеми також пов`язані з викликом децентралізації інновацій у ШІ поза межами США.

«Федеральні середовища вимагають принципу обережності: навіть ймовірність низького порушення може мати катастрофічні наслідки для національної безпеки», - додав Андерсон.