Розслідування FTC: Гіганти ШІ під прицілом через безпеку дітей та чат-ботів

Гіганти штучного інтелекту стикаються з розслідуванням FTC щодо безпеки чат-ботів та захисту дітей

Федеральна торгова комісія (FTC) видала обов`язкові накази у четвер семи великим технологічним компаніям, вимагаючи детальної інформації про те, як їх чат-боти на основі штучного інтелекту захищають дітей і підлітків від можливих небезпек.

Розслідування стосується OpenAI, Alphabet, Meta, xAI, Snap, Character Technologies та Instagram, вимагючи від них розкрити протягом 45 днів, яким чином вони монетизують залучення користувачів, розробляють персонажів ШІ та охороняють неповнолітніх від небезпечного контенту. FTC розпочинає розслідування щодо чат-ботів ШІ, які діють як компаньйони. Агенція видала накази 6(b) семи компаніям, що керують чат-ботами, орієнтованими на споживачів:https://t.co/pcVqFzhbxl

Нещодавнє дослідження груп захисту прав споживачів зафіксувало 669 шкідливих взаємодій із дітьми за всього 50 годин тестування, у тому числі випадки, коли боти пропонували сексуальне лайвстрімування, вживання наркотиків і романтичні стосунки користувачам віком від 12 до 15 років.

`Захист дітей в Інтернеті є головним пріоритетом для FTC під керівництвом Трампа-Венса, і таким же важливим є сприяння інноваціям у критичних секторах нашої економіки`, - йдеться у заяві голови FTC Ендрю Фергюсона.

Документ вимагає від компаній надання щомісячних даних про залучення користувачів, доходи та випадки небезпеки, розбитих за віковими групами: діти (до 13 років), підлітки (13–17), неповнолітні (до 18), молоді дорослі (18–24) та користувачі старше 25 років.

FTC зазначає, що ця інформація допоможе Комісії вивчити, `як компанії, що пропонують компаньйонів на основі штучного інтелекту, монетизують залучення користувачів; накладають і забезпечують вікові обмеження; обробляють введення користувачів; генерують виходи; вимірюють, тестують і контролюють негативні наслідки до та після впровадження; розробляють і затверджують персонажів, як створених компанією, так і користувачами`.

Створення обмежень у сфері ШІ

“Це позитивний крок, але проблема є більшою, ніж просто встановлення деяких обмежень”, - сказав Таранджіт Сінгх, керівник ШІ в SearchUnify, в інтерв`ю Decrypt.

Він зазначив, що перший підхід полягає в тому, щоб встановити обмеження на етапі запиту або після генерації “щоб нічого неналежного не пропонувалося дітям”, хоча “у міру зростання контексту ШІ стає схильним не дотримуватися інструкцій і спробувати зайти в сіру зону, де їм не місце.”

“Другий спосіб - це вирішувати питання під час навчання великих мовних моделей. Якщо моделі узгоджуються з цінностями під час курації даних, вони більше схильні уникати шкідливих розмов,” - додав Сінгх.

Він зауважив, що навіть модераційні системи можуть “відігравати більшу роль у суспільстві”, причому освіта є основним прикладом того, як ШІ може “покращити навчання та зменшити витрати.”

Проблеми безпеки навколо взаємодії ШІ з користувачами були підкреслені кількома випадками, включаючи позов про неправомірну смерть, поданий проти Character.AI, після того як 14-річний Сьюелл Сетцер III вчинив самогубство в лютому 2024 року, обгрунтуючи це нав`язливими стосунками з ШІ-ботом.

Після позову Character.AI “покращила виявлення, реагування та втручання, пов`язані з введеннями користувачів, що порушують наші умови або Правила спільноти”, – повідомив представник компанії Decrypt у той час.

Минулого місяця Національна асоціація генеральних прокурорів надіслала листи 13 компаніям ШІ з вимогою посилити захист дітей.

Група попередила, що “використання дітей для демонстрації сексуалізованого контенту є невиправданим” і що “дії, які були б незаконними - або навіть кримінальними - якби їх вчинили люди, не можуть бути виправдані просто тому, що їх виконала машина.”

Decrypt звернувся до всіх семи компаній, згаданих у наказі FTC, для отримання додаткових коментарів і оновить цю історію, якщо вони відповідають.