ChatGPT Agent: новий рівень ШІ з автономними функціями та новими загрозами безпеці

OpenAI представила свій найавтономніший інструмент штучного інтелекту: версію ChatGPT, яка може переглядати веб, запускати програми та виконувати реальні завдання з мінімальною участю людини. Але з новим рівнем можливостей приходить і чітке попередження: технологія також може спричинити нову хвилю загроз безпеці.

Запущений в четвер, ChatGPT Agent дозволяє користувачам делегувати складні завдання, такі як планування відпусток, бронювання готелів, дослідження конкурентів, створення слайд-деків і навіть здійснення покупок онлайн.

Ця функція почне впроваджуватись сьогодні для користувачів Pro, Plus та Team.

Для виконання завдань агент використовує віртуальний комп`ютер і об`єднаний набір інструментів, включаючи текстовий браузер, термінал і доступ до сторонніх програм, таких як Google Drive та GitHub. Віртуальний комп`ютер є змодельованим обчислювальним середовищем, що працює в хмарі, яке агент ChatGPT може контролювати самостійно — своєрідно, як надання ШІ власної приватної машини для виконання реальної роботи.

«Я вважаю, що це новий рівень можливостей у ШІ», — сказав генеральний директор OpenAIСем Альтман під час демонстрації в режимі прямого ефіру, проведеної членами команди, яка створила продукт. Однак в прямій трансляції також було багато попереджень «будьте обережні» від OpenAI.

«Це новий спосіб використання ШІ, але з цим виникне новий набір атак», — зазначив Альтман. «Суспільство та технологія повинні еволюціонувати і навчитися, як ми будемо пом`якшувати речі, які ми ще навіть не можемо собі уявити, оскільки люди почнуть виконувати все більше і більше роботи таким чином.»

Один із прикладів: агент може дослідити покупку, знайти товар на фішинговому сайті та надати інформацію кредитної картки користувача. Щоб зменшити цю проблему, у поточному випуску є ряд захисних заходів, які, наприклад, зупинять завантаження інформації кредитної картки, поки користувач не затвердить це вручну.

«Ми навчили модель ігнорувати підозрілі інструкції на ризикованих веб-сайтах», — сказала дослідниця OpenAIКейсі Чу. «У нас також є монітори, що спостерігають за поведінкою агента і зупиняють його, якщо щось виглядає підозріло.»

Чу додала, що хоча системні захисні заходи можуть оновлюватися в реальному часі, агент ChatGPT все ще є «сучасним продуктом», який відкриває двері для нових форм експлуатації.

«Важливо, щоб користувачі усвідомлювали ризики і обдумано ставилися до інформації, яку вони ділять», — сказала вона.

Випуск ChatGPT Agent відбувається в час, коли розробники ШІ працюють над наділенням віртуальних помічників все більш потужними можливостями. У середу Google запустив нову функцію на основі ШІ в Google Search, яка дозволяє AI Gemini здійснювати телефонні дзвінки до бізнесу від імені користувачів.

«ChatGPT Agent все ще на ранньому етапі, і ми використовуємо цей час, щоб вчитися на реальному використанні для покращення як продукту, так і наших захисних заходів», — зазначив представник OpenAI.

Експерти з кібербезпеки також виразили занепокоєння щодо наслідків автономних агентів.

«Високий рівень занепокоєння виправданий, оскільки агент має явну авторитетність для розкриття особистих ідентифікаторів під час діалогу», — сказавНік Адамс, співзасновник і генеральний директор компанії з кібербезпеки 0rcus. «Користувачі повинні надавати детальні, відкликані права, такі як цільовий бізнес, мета, дозволені елементи даних і терміни дії.»

Щодо кращих практик, Адамс запропонував, що після виконання агент повинен надати повний стенограму для затвердження перед зберіганням будь-якої інформації на більш довгий термін, ніж це передбачено законом.

«Безмовна, загальна згода перенесе відповідальність на користувача без відчутного контролю», — сказав він. «Тому модель підтвердження по кожному завданню є необхідною.»

Окрім ризиків дозволяти AI-агентам здійснювати покупки або плани, дослідники OpenAI погодилися, що цей рівень автономії вводить нові загрози, особливо атаки на підказки, коли шкідливі ввідні дані обманюють AI на витік даних, поширення дезінформації або вчинення несанкціонованих дій.

Щоб зменшити ці ризики, OpenAI розробила режим захоплення, який, як випливає з назви, дає користувачам можливість взяти контроль над агентом і вводити інформацію самостійно, замість того щоб покладатися на агента. У деяких випадках агент ChatGPT запитуватиме явне схвалення користувача перед виконанням важливих дій, таких як здійснення покупок або доступ до чутливих даних.

«Ми створили потужний інструмент, але користувачі повинні залишатися обережними», — додала Чу.