Калифорния вводит первые в США правила для чат-ботов: безопасность, возрастные ограничения и моральные аспекты

Калифорния вводит первые в США правила для «компаньонов» чат-ботов

Калифорния стала первым штатом, установившим явные рамки для «компаньонов» чат-ботов — программ ИИ, которые имитируют дружбу или близость. Губернатор Гэвин Ньюсом в понедельник подписал Законопроект 243, который требует, чтобы чат-боты идентифицировали себя как искусственные, ограничивали разговоры о сексе и самоубийстве с несовершеннолетними и сообщали о случаях обнаружения суицидных мыслей в Офис предотвращения самоубийств штата.

Закон, автором которого является сенатор штата Стив Падилла (Демократ, Сан-Диего), открывает новую перспективу надзора за ИИ, делая акцент не на архитектуре модели или предвзятости данных, а на эмоциональном взаимодействии между людьми и машинами. Он обязывает компании регулярно напоминать пользователям, что они общаются с программным обеспечением, принимать меры по реагированию на признаки самоубийства и поддерживать фильтры контента, соответствующие возрасту.

Конечная версия законопроекта более узкая, чем первоначальная. Более ранние версии требовали проведения аудитов третьими сторонами и применялись ко всем пользователям, а не только к несовершеннолетним; эти положения были исключены под давлением отрасли.

Слишком слаб, чтобы быть полезным?

Несколько групп защиты прав выразили мнение, что окончательная версия законопроекта слишком слабая, чтобы что-то изменить. Организации Common Sense Media и Tech Oversight Project обе withdrew свою поддержку после того, как законодатели исключили положения о третьих аудитах и более широком применении. В заявлении для Tech Policy Press один из защитников сказал, что пересмотренный законопроект рискует стать «пустым жестом, а не значимой политикой».

Ньюсом защитил закон как необходимую ограду для развивающихся технологий. «Развивающиеся технологии, такие как чат-боты и социальные сети, могут вдохновлять, обучать и объединять — но без реальных рамок технологии могут также эксплуатировать, вводить в заблуждение и подвергать риску наших детей», — сказал он в заявлении. «Мы можем продолжать лидировать в области ИИ и технологий, но мы должны делать это ответственно — защищая наших детей на каждом шагу».

Законопроект 243 сопровождает более широкий набор законопроектов, подписанных в последние недели, включая Законопроект 53, который обязывает крупных разработчиков ИИ публично раскрывать свои стратегии безопасности и снижения рисков. Вместе они ставят Калифорнию на передний план государственного управления ИИ.

Но новые правила для чат-ботов могут оказаться трудными в практическом применении. Разработчики предупреждают, что слишком широкая ответственность может побудить компании ограничивать законные разговоры о психическом здоровье или сексуальности из осторожности, лишая пользователей, особенно изолированных подростков, ценного поддержки.

Применение законов также может быть сложным: глобальной компании, разрабатывающей чат-ботов, может быть трудно определить, кто считается несовершеннолетним в Калифорнии, или отслеживать миллионы ежедневных обменов. А как и во многих первых шагах Калифорнии, существует риск, что добросовестное регулирование окажется экспортированным на всю страну, прежде чем кто-то поймет, работает ли оно на самом деле.