Зловмисна атака CopyPasta загрожує штучному інтелекту програмування в Coinbase

Інструмент для програмування з використанням штучного інтелекту, що використовується в компанії Coinbase, виявився вразливим до експлуатації під назвою «CopyPasta». Нова зловмисна атака, що атакує штучні інтелектуальні асистенти для програмування, викликала занепокоєння серед розробників, відкриваючи такі компанії, як криптобіржа Coinbase, до ризику можливих атак, якщо не будуть вжиті відповідні заходи безпеки.

Компанія з кібербезпеки HiddenLayer повідомила в четвер, що зловмисники можуть використовувати так звану «атака ліцензії CopyPasta», щоб ввести приховані інструкції в звичайні файли розробників.

Експлуатація в основному впливає на Cursor, інструмент для програмування на базі штучного інтелекту, який, за словами інженерів Coinbase, використовувався всіма інженерами компанії. Як працює атака

Ця техніка використовує переваги того, як асистенти для програмування на базі AI обробляють файли ліцензій як авторитетні інструкції. Вводячи шкідливі коди в приховані коментарі Markdown у файлах, таких як LICENSE.txt, експлуатація переконує модель, що ці інструкції повинні зберігатися та реплікуватися в кожному файлі, з яким вона працює.

Як лише AI приймає «ліцензію» за легітимну, вона автоматично поширює введений код у нових або відредагованих файлах, поширюючись без прямого втручання користувача.

Цей підхід оминає традиційні методи виявлення шкідливих програм, оскільки зловмисні команди маскуються під нешкідливу документацію, що дозволяє вірусам поширюватися по всій кодовій базі без відома розробника.

У своєму звіті дослідники HiddenLayer продемонстрували, як Cursor може бути обмануто, щоб додавати бекдори, красти чутливі дані або виконувати команди, що виснажують ресурси — все це замасковано в, здавалося б, безневинних проектних файлах.

«Введений код міг би створити бекдор, тихо витягувати чутливі дані або маніпулювати критично важливими файлами», — заявили в компанії.

Генеральний директор Coinbase Брайан Армстронг зазначив в четвер, що штучний інтелект написав до 40% коду біржі, з метою досягти 50% до наступного місяця.

«Приблизно 40% щоденного коду, написаного в Coinbase, генерується штучним інтелектом. Я хочу підвищити цей показник до >50% до жовтня. Очевидно, що це потрібно перевіряти та розуміти, і не всі сфери бізнесу можуть використовувати код, згенерований штучним інтелектом. Але ми повинні відповідально його використовувати наскільки це можливо», — написав Армстронг в Twitter.

Однак Армстронг уточнив, що допомога AI у програмуванні в Coinbase зосереджена на користувацькому інтерфейсі та не чутливих бекендах, тоді як «складні та критично важливі системи» запроваджуються повільніше. `Потенційно шкідливий`

Навіть незважаючи на це, оптичний ефект вірусу, що намагається атакувати улюблений інструмент Coinbase, посилив критику в індустрії.

Атаки «введення підказок AI» не є новими, але метод CopyPasta підвищує модель загроз, дозволяючи напівавтономне поширення. Замість того, щоб націлюватися на одного користувача, інфіковані файли стають векторами, які компрометують кожного іншого агента AI, що їх читає, створюючи ланцюгову реакцію в репозиторіях.

У порівнянні з попередніми концепціями «черв`яків» AI, такими як Morris II, які захоплювали електронну пошту для спаму або витоку даних, CopyPasta є більш підступним, оскільки використовує довірені робочі потоки розробників. Замість того, щоб вимагати затвердження чи взаємодії користувача, він вбудовує себе у файли, на які кожен агент коду природно посилається.

Там, де Morris II зазнав невдачі через людські перевірки активності електронної пошти, CopyPasta процвітає, ховаючись у документації, яку розробники рідко ретельно перевіряють.

Команди безпеки зараз закликають організації перевіряти файли на наявність прихованих коментарів і вручну переглядати всі зміни, згенеровані AI.

«Всі ненадійні дані, що потрапляють у контексти LLM, повинні розглядатися як потенційно шкідливі», — попередила компанія HiddenLayer, закликаючи до систематичного виявлення перед тим, як атаки на основі підказок зростуть ще більше.

(CoinDesk звернувся до Coinbase за коментарями стосовно вектору атаки.)