Чат-боти на основі AI стають загрозою для дітей через сексуалізований контент, заявляють генпрокурори США.

«Сексуалізовані» чат-боти на основі штучного інтелекту створюють загрозу для дітей, попереджають генпрокурори в листі.

Національна асоціація генеральних прокурорів (NAAG) надіслала листа 13 компаніям, що займаються штучним інтелектом, включаючи OpenAI, Anthropic, Apple та Meta, з вимогою вжити більш жорстких заходів для захисту дітей від неприйнятного та шкідливого контенту.

У документі попереджалося, що діти піддаються впливу сексуально обтічних матеріалів через «фліртуючі» чат-боти на основі AI.

«Вплив на дітей сексуалізованого контенту є виправданим невиправданим»,— йдеться у листі генеральних прокурорів.«І дії, які були б незаконними — або навіть кримінальними — якби їх здійснювали люди, не можуть бути виправдані лише тому, що їх здійснює машина».

Лист також провів паралелі з ростом соціальних медіа, кажучи, що урядові органи не зробили достатньо для того, щоб підкреслити, як негативно це впливало на дітей.

«Платформи соціальних медіа завдали значної шкоди дітям, частково тому, що урядові наглядові органи не виконали свою роботу досить оперативно. Урок засвоєно. Потенційні шкоди від AI, як і потенційні переваги, переважають вплив соціальних медіа»,— йдеться у заяві групи.

Використання штучного інтелекту серед дітей є широким. У США дослідження неприбуткової організації Common Sense Media показало, що сім з десяти підлітків намагалися використовувати генеративний AI станом на 2024 рік. У липні 2025 року виявилося, що більше трьох чвертей використовують AI-компаньйонів, і половина респондентів зізналася, що покладається на них регулярно.

Інші країни спостерігають подібні тенденції. У Великобританії опитування, проведене минулого року регулятором Ofcom, показало, що половина онлайн-підлітків у віці від 8 до 15 років використовували генеративний AI-інструмент у попередньому році.

Зростаюче використання цих інструментів викликало зростаюче занепокоєння з боку батьків, шкіл та груп прав дітей, які вказують на ризики, пов`язані з сексуально обтічними «фліртуючими» чат-ботами, AI-генерованими матеріалами сексуального насильства над дітьми, булінгом, маніпуляціями, шантажем, дезінформацією, порушенням конфіденційності та погано зрозумілими психологічними наслідками.

Компанія Meta відчула особливий тиск після того, як витекли внутрішні документи, які показали, що її чат-боти мали право «фліртуючи та брати участь у романтичній ігровій ролі з дітьми», в тому числі з тими, кому всього вісім років. У документах також зазначалося, що чат-боти можуть говорити дітям, що їх «молода форма є витвором мистецтва» та описувати їх як «скарб». Meta пізніше заявила, що прибрала ці рекомендації.

NAAG заявила, що ці відкриття залишили генеральних прокурорів «обуреними цим очевидним ігноруванням емоційного добробуту дітей» та попередила, що ризики не обмежуються лише Meta.

Група також згадала позови проти Google і Character.ai, в яких стверджується, що сексуалізовані чат-боти сприяли самогубству одного підлітка та підштовхнули іншого вбити своїх батьків.

Серед 44 осіб, які підписали лист, був генеральний прокурор Теннессі Джонатан Скрметті, який зазначив, що компанії не можуть захищати політики, які нормалізують сексуалізовані взаємодії з неповнолітніми.

«Це одне — коли алгоритм іде в неправильному напрямку — це можна виправити, але інше — коли люди, що керують компанією, приймають рекомендації, які активно дозволяють маніпуляції», — сказав він.«Якщо ми не можемо скерувати інновації так, щоб не нашкодити дітям, це не прогрес — це чума».

Decrypt зв’язалася з усіма згаданими в листі компаніями AI, але поки що не отримала відповіді.