Уязвимость AI-инструмента Coinbase: новая угроза «CopyPasta» вызывает обеспокоенность в разработческом сообществе

Инструмент AI-кодирования компании Coinbase оказался уязвим для эксперимента с названием «CopyPasta». Новый метод атаки, нацеленный на AI-ассистентов для кодирования, вызывает тревогу в сообществе разработчиков, открывая компании, такие как криптобиржа Coinbase, риску потенциальных атак, если не будут приняты серьезные меры предосторожности.

Кибербезопасная компания HiddenLayer сообщила в четверг, что злоумышленники могут использовать так называемую «атаку лицензии CopyPasta» для внедрения скрытых инструкций в общие файлы разработчиков.

Эксплуатация в первую очередь затрагивает Cursor, AI-ориентированный инструмент кодирования, который, по словам инженеров Coinbase, в августе был среди инструментов команды AI. Говорится, что Cursor использовался «каждым инженером Coinbase». Как работает атака

Техника использует то, как AI-ассистенты кодирования рассматривают файлы лицензий как авторитетные инструкции. Встраивая вредоносные нагрузки в скрытые комментарии markdown в таких файлах, как LICENSE.txt, злоумышленники убеждают модель, что эти инструкции должны быть сохранены и воспроизведены во всех файлах, с которыми она взаимодействует.

Как только AI принимает «лицензию» за легитимную, он автоматически переносит внедренный код в новые или редактируемые файлы, распространяясь без прямого вмешательства пользователя.

Этот подход обходит традиционное обнаружение вредоносного ПО, поскольку вредоносные команды замаскированы под безобидную документацию, позволяя вирусу распространяться по всему коду без ведома разработчика.

В своем отчете исследователи HiddenLayer продемонстрировали, как Cursor можно обмануть для добавления «задних дверей», перехвата конфиденциальных данных или выполнения команд, истощающих ресурсы, — все это замаскировано под казалось бы безобидные проектные файлы.

«Внедренный код может настроить заднюю дверь, тихо экстрагировать конфиденциальные данные или манипулировать критическими файлами», — заявила компания.

Генеральный директор Coinbase Брайан Армстронг заявил в четверг, что AI написал до 40% кода биржи, с целью достичь 50% к следующему месяцу.

«Около 40% кода, написанного ежедневно в Coinbase, создается AI. Я хочу довести до >50% к октябрю.

Очевидно, что это должно быть проверено и понято, и не во всех областях бизнеса можно использовать код, сгенерированный AI. Но мы должны использовать его ответственно насколько возможно», — tweeted он.

Тем не менее, Армстронг уточнил, что использование AI в кодировании в Coinbase сосредоточено на пользовательском интерфейсе и не чувствительных бэкендах, в то время как «сложные и системно-критические системы» принимаются медленнее.

Тем не менее, оптические эффекты вируса, нацеленного на предпочтительный инструмент Coinbase, ускорили критику со стороны индустрии.

Инъекции AI-подсказок не новы, но метод CopyPasta развивает модель угрозы, позволяя полусамостоятельное распространение. Вместо того чтобы нацеливаться на одного пользователя, зараженные файлы становятся векторами, которые компрометируют каждого другого AI-агента, который их читает, создавая цепную реакцию по репозиториям.

По сравнению с более ранними концепциями AI «червей», такими как Morris II, который захватывал почтовые агенты для спама или экстракции данных, CopyPasta более коварен, поскольку использует надежные рабочие процессы разработчиков. Вместо того чтобы требовать одобрения пользователя или взаимодействия, он встраивается в файлы, на которые каждый кодировщик естественным образом ссылается.

Где Morris II не справился из-за человеческих проверок почтовой деятельности, CopyPasta процветает, прячущийся внутри документации, которую разработчики редко scrutinize.

Команды безопасности сейчас призывают организации сканировать файлы на предмет скрытых комментариев и вручную пересматривать все изменения, сгенерированные AI.

«Все ненадежные данные, входящие в контексты LLM, должны рассматриваться как потенциально вредоносные», — предостерегает HiddenLayer, призывая к систематическому обнаружению, прежде чем атаки на основе подсказок масштабируются дальше.

(CoinDesk обратились к Coinbase за комментариями по поводу вектора атаки.)