DeepSeek: угроза безопасности или просто новый ИИ-игрок?

Является ли сенсация китайского ИИ DeepSeek угрозой безопасности? Будет ли ИИ DeepSeek из Китая, который стал сенсацией за одну ночь, подвергаться такому же уровню проверки безопасности, как и TikTok?

Компания, принадлежащая хедж-фонду High-Flyer и расположенная в Ханчжоу, Китай, уже подвергается критике за недостаток прозрачности и потенциальное влияние со стороны Народной Республики Китай. Пользователи социальных сетей критикуют ИИ-модель DeepSeek за отказ отвечать на политические вопросы о китайском правительстве и президенте Си Цзиньпине.

Когда его спрашивают, похож ли Си на Вини-Пуха, или какая знаменитая фотография показывает человека с продуктами, стоящего перед танками на площади Тяньаньмэнь, чат-бот, связанный с публичной моделью, а также приложение отвечают:

“Извините, это вне моего текущего объема. Давайте поговорим о чем-то другом.”

High-Flyer был основан в 2019 году Лянем Вэньфэном, исследователем в области ИИ, который первоначально использовал новую технологию для анализа рынков акций.

Интересно, что его диссертация для магистратуры сосредоточилась на использовании ИИ для улучшения видеонаблюдения. “Исследование алгоритмов отслеживания целей на основе недорогих PTZ-камер” подчеркивало алгоритмы, разработанные для отслеживания движущихся объектов с помощью камер с панорамным поворотом и зумом, которые могут настраивать свое поле зрения через механические движения, позволяя эффективно следить за динамичными сценами.

В интеллектуальном видеонаблюдении автоматические алгоритмы отслеживания целей на основе PTZ-систем имеют ключевое значение. Эти алгоритмы улучшают традиционные методы наблюдения, позволяя автоматическое обнаружение и непрерывное отслеживание движущихся объектов в сцене. Пользователи в социальных сетях выражали обеспокоенность потенциальными рисками.

Внимание, мир! Не скачивайте @deepseek_ai и, PLEASE, обсудите это на вашем месте работы, если они используют его, о полном аудите безопасности, если вы не хотите, чтобы НСЛ укрепленные неумехи из правительства КПК имели ваши данные!? @BrendanCarrFCC…

Неизвестно, следит ли DeepSeek за своими пользователями в любой форме. На вопрос, хранятся ли запросы и данные пользователей в приватности, модель отвечает, что компания “привержена защите безопасности и конфиденциальности пользовательских данных. Мы не занимаемся никаким несанкционированным наблюдением.”

Тем не менее, эксперты по безопасности рассказали Decrypt, что ответ на этот вопрос еще не получен.

“Политика конфиденциальности DeepSeek неясна, и возможности контроля в его веб-приложении недостаточно известны,” - сказал Дж. Стивен Ковски, технический директор в компании по кибербезопасности SlashNext Email Security+. “Что они делают с данными, как они обрабатываются, куда они идут и как долго хранятся? Это критически важные вопросы, которые необходимо обсудить.”

DeepSeek AI полностью нарушит вашу цифровую безопасность и личную конфиденциальность. Вы подвергнете риску свои пароли, имена пользователей и аккаунты на каждом устройстве, которое у вас есть. У китайского правительства есть неограниченный доступ ко всем вашим данным, включая ваши полномочия, личные файлы, сообщения,…

Действительно, Ковски отметил, что часть быстрого роста DeepSeek была связана с отсутствием жесткой проверки, с которой сталкиваются американские конкуренты, такие как ChatGPT от OpenAI, Google Gemini и Claude AI от Anthropic.

Уязвимости инфраструктуры еще больше усилили беспокойство о DeepSeek. Ковски отметил потенциальные слабости в коде платформы.

“Уже существуют подтвержденные уязвимости, такие как межсайтовый скриптинг (XSS) и атаки на внедрение запросов, которые могут перехватить пользовательские сессии во время веб-сессий,” - сказал он. “Судя по тому, что я читал, их код может потенциально быть использован для выполнения несанкционированных команд.”

Следует отметить, что пользователи могут скачать версию DeepSeek на свой компьютер и запустить её локально, не подключаясь к интернету. И пока не сообщается о том, что код содержит что-либо вредоносное.

Тем временем, в понедельник DeepSeek признал свою проблему безопасности: он столкнулся с масштабной кибератакой, из-за которой новые пользователи не смогли войти на платформу.

“Из-за масштабных злонамеренных атак на услуги DeepSeek мы временно ограничиваем регистрацию, чтобы обеспечить непрерывную работу,” - говорится на странице состояния DeepSeek. “Существующие пользователи могут заходить в систему как обычно. Благодарим за понимание и поддержку.”