Загроза отруєння коду штучного інтелекту: ChatGPT рекомендує шахрайський API, внаслідок якого користувач втрачає 2500 доларів у криптовалютах.

Компанія з безпеки блокчейн-систем попереджає про ризик отруєння коду штучного інтелекту після того, як ChatGPT від OpenAI рекомендував шахрайський API.

Ю Сян, засновник компанії з безпеки блокчейн Slowmist, підняв тривогу щодо зростаючої загрози, відомої як отруєння коду ШІ.

Цей тип атаки полягає у впровадженні шкідливого коду у навчальні дані моделей ШІ, що може створити небезпеку для користувачів, які залежать від цих інструментів для виконання технічних завдань. Інцидент набула популярності після тривожного випадку, пов`язаного з ChatGPT від OpenAI.

21 листопада крипто-трейдер на ім`я «r_cky0» повідомив про втрату 2500 доларів у цифрових активах після того, як звернувся до ChatGPT за допомогою у створенні бота для генератора мемоїнів на базі Solana Pump.fun. Однак чат-бот рекомендував шахрайський вебсайт API Solana, що призвело до крадіжки приватних ключів користувача.

Жертва зазначила, що протягом 30 хвилин після використання шкідливого API всі активи були переведені на гаманець, пов`язаний зі схемою.

Примітка редактора: Схоже, що ChatGPT рекомендував API після виконання пошуку, використовуючи новий SearchGPT, як це можна побачити на скріншоті. Таким чином, це не виглядає як випадок отруєння ШІ, а скоріше як невдача ШІ в розпізнаванні шахрайських посилань у результатах пошуку.

Додаткове розслідування виявило, що ця адреса постійно отримує вкрадені токени, що підтверджує підозри про те, що вона належить шахраю.

Засновник Slowmist зазначив, що доменне ім`я шахрайського API було зареєстроване два місяці тому, що свідчить про передумови атаки. Сян додав, що вебсайт не містив детального контенту, складаючись лише з документів і репозиторіїв коду.

Хоча отруєння виглядає навмисним, немає доказів того, що OpenAI навмисно інтегрувала шкідливі дані у навчання ChatGPT, а результат, ймовірно, походить від SearchGPT.

Висновки:

Компанія з безпеки блокчейну Scam Sniffer зазначила, що цей інцидент ілюструє, як шахраї забруднюють навчальні дані ШІ шкідливим криптокодом. Вона заявила, що користувач GitHub під ім`ям «solanaapisdev» нещодавно створив кілька репозиторіїв для маніпулювання моделями ШІ, щоб генерувати шахрайські виходи в останні місяці.

Інструменти ШІ, такі як ChatGPT, які зараз використовуються сотнями мільйонів людей, стикаються зі зростаючими викликами, оскільки зловмисники знаходять нові способи їх експлуатації.

Сян попередив крипто-користувачів про ризики, пов`язані з великими мовними моделями (LLM), такими як GPT. Він підкреслив, що якщо раніше це був теоретичний ризик, то отруєння ШІ тепер перетворилося на реальну загрозу. Отже, без більш надійних захистів інциденти подібно цьому можуть підірвати довіру до інструментів, які керуються ШІ, і піддати користувачів додатковим фінансовим втратам.