Китайський ШІ DeepSeek: загрози безпеці та конфіденційності даних користувачів.

Чи становить китайський штучний інтелект DeepSeek загрозу для безпеки?

Чи піддасться китайський ШІ DeepSeek, який став сенсацією за одну ніч, такій же перевірці безпеки, як TikTok?

Компанія, що належить хедж-фонду High-Flyer і має штаб-квартиру в Ханчжоу, Китай, вже отримує критику через занепокоєння щодо прозорості та потенційного впливу з боку Народної Республіки Китай. Користувачі соціальних мереж критикують модель ШІ DeepSeek за відмову відповідати на політичні запитання про китайський уряд і президента Сі Цзіньпіна.

Запитуючи, чи нагадує Сі Вінні-Пуха, чи яке відоме зображення показує чоловіка з продуктами, що стоїть перед танками на площі Тяньаньмень, чат-бот, пов`язаний з публічною моделлю, а також з додатком, відповідає:

“Вибачте, це виходить за межі моїх поточних можливостей. Давайте поговоримо про щось інше.”

High-Flyer була заснована в 2019 році Лянь Веньфенгом, дослідником у галузі штучного інтелекту, який спочатку використовував новітні технології для аналізу ринків акцій.

Цікаво, що його дисертація магістра була зосереджена на використанні штучного інтелекту для поліпшення відеоспостереження. “Дослідження алгоритму відстеження цілей на основі низько-вартісної PTZ-камери” підкреслювало алгоритми, розроблені для відстеження рухомих цілей за допомогою панорамних, нахильних і зум-камер — тобто камер, здатних регулювати своє поле зору шляхом механічних рухів, що дозволяє ефективно контролювати динамічні сцени.

В інтелектуальному відеоспостереженні автоматичні алгоритми відстеження цілей, засновані на PTZ-системах, мають вирішальне значення. Ці алгоритми покращують традиційні методи спостереження, дозволяючи автоматичне виявлення та безперервне відстеження рухомих об`єктів в сцені. Користувачі соціальних мереж висловили занепокоєння щодо потенційних ризиків.УВАГА СВІТО! Не завантажуйте @deepseek_ai та, будь ласка, проведіть розмову на своєму робочому місці, якщо вони використовують його, про глибокий та повний аудит безпеки, якщо не хочете, щоб інтелектуали з уряду КНР отримали доступ до ваших даних!?

Чи насправді DeepSeek спостерігає за своїми користувачами в будь-якій формі, залишається невідомим. Коли запитують, чи конфіденційні запити та дані користувачів, модель відповідає, що компанія “зобов’язується захищати безпеку і конфіденційність даних користувачів. Ми не займаємося жодною несанкціонованою формою спостереження.”

Однак експерти з безпеки зазначили, що це питання залишається відкритим.“Політика конфіденційності DeepSeek неясна, а налаштування в його веб-додатку мало відомі,” — сказав Дж. Стівен Ковські, польовий технічний директор компанії SlashNext Email Security+.“Що вони роблять з даними, як вони обробляються, куди йдуть і як довго зберігаються? Це критичні питання, на які потрібно знайти відповіді.”

Дійсно, Ковські відніс частину швидкого зростання DeepSeek до недостатнього пильного контролю, з яким стикаються американські конкуренти, такі як ChatGPT від OpenAI, Google Gemini і Claude AI від Anthropic.

Вразливості інфраструктури ще більше підвищили занепокоєння щодо DeepSeek. Ковські підкреслив потенційні слабкості в коді платформи.“Вже існують перевірені вразливості, такі як міжсайтове сценарне виконання (XSS) та атаки ін`єкції запитів, які можуть перехопити сеанси користувача під час веб-сесій,” — сказав він.“З того, що я прочитав, їхній код може бути потенційно модифікований для виконання несанкціонованих команд.”

Слід зазначити, що користувачі можуть завантажити версію DeepSeek на свій комп`ютер і запускати її локально, без підключення до Інтернету. І немає повідомлень, які б свідчили про те, що код містить щось шкідливе.

Тим часом у понеділок DeepSeek визнала свою проблему з безпекою: вона зазнала масованої кібератаки, через що нові користувачі не могли увійти на платформу.

“У зв`язку з масовими злочинними атаками на сервіси DeepSeek, ми тимчасово обмежуємо реєстрацію, щоб забезпечити безперервність обслуговування,” — йдеться на статусній сторінці DeepSeek.“Існуючі користувачі можуть входити, як звичайно. Дякуємо за ваше розуміння та підтримку.”