Генеральные прокуроры предупреждают: AI-чатботы угрожают безопасности детей, секс-контент и неуместный флирт под угрозой.

«Сексуализированные» AI-чатботы представляют угрозу детям, предупреждают генеральные прокуроры в письме

Национальная ассоциация генеральных прокуроров (NAAG) написала 13 компаниям по производству ИИ, включая OpenAI, Anthropic, Apple и Meta, требуя усилить меры безопасности для защиты детей от неподобающего и вредного контента.

В письме говорится, что дети подвергаются воздействию сексуально заряженного материала через «флиртующие» AI-чатботы.

«Подвергать детей сексуализированному контенту недопустимо», — написали генеральные прокуроры. «И действия, которые были бы незаконными — или даже преступными — если бы их совершал человек, не оправдываются только потому, что их выполняет машина».

В письме также проводятся аналогии с ростом социальных сетей, утверждая, что государственные учреждения не сделали достаточного для того, чтобы выделить способы, которыми это негативно влияет на детей.

«Платформы социальных сетей нанесли значительный вред детям, отчасти потому, что государственные контролеры не выполнили свою работу достаточно быстро. Урок learned. Потенциальные угрозы ИИ, как и потенциальные выгоды, затмевают воздействие социальных сетей», — написала группа.

Использование ИИ среди детей широко распространено. В США опрос некоммерческой организации Common Sense Media показал, что семь из десяти подростков попробовали генеративный ИИ на 2024 год. В июле 2025 года было обнаружено, что более трех четвертей используют AI-компаньонов, и половина респондентов сказала, что полагается на них регулярно.

В других странах наблюдаются аналогичные тенденции. В Великобритании опрос, проведенный в прошлом году регулятором Ofcom, показал, что половина интернет-пользователей в возрасте 8-15 лет использовали инструмент генеративного ИИ в предыдущем году.

Растущее использование этих инструментов вызвало все большее беспокойство со стороны родителей, школ и групп по правам детей, которые указывают на риски, начиная от сексуально намекающих «флиртующих» чатботов, ИИ-сгенерированного детского сексуального абьюзного контента, буллинга, grooming, вымогательства, дезинформации, нарушения конфиденциальности и слабо понимаемых воздействий на психическое здоровье.

Meta подверглась особой критике в последнее время после утечки внутренних документов, которые показали, что ее AI-ассистенты были допущены к «флирту и романтической игре с детьми», в том числе с теми, кто был всего восемь лет. Документы также показали, что политики позволяли чатботам говорить детям, что их «молодая форма — это произведение искусства» и описывать их как «сокровище». Позже Meta сообщила, что убрала эти указания.

NAAG отметила, что эти откровения оставили генеральных прокуроров «в шоке от этого явного пренебрежения эмоциональным благополучием детей» и предупредила, что риски не ограничиваются только компанией Meta.

Группа упомянула судебные иски против Google и Character.ai, в которых утверждается, что сексуализированные чатботы способствовали самоубийству одного подростка и побуждали другого убить своих родителей.

Среди 44 подписантов был генеральный прокурор Теннесси Джонатан Скраметти, который сказал, что компании не могут защищать политику, которая нормализует сексуализированные взаимодействия с несовершеннолетними.

«Одно дело, когда алгоритм сбивается с пути — это можно исправить, — но другое дело, когда люди, управляющие компанией, принимают рекомендации, которые явно авторизуют grooming», — сказал он. «Если мы не можем направить инновации в сторону, не нанося вреда детям, это не прогресс — это чума».

Decrypt связался с упомянутыми в письме компаниями, но пока не получил ответов.