Каліфорнія вводить правила для чат-ботів: захист неповнолітніх та контроль за контентом

Каліфорнія стала першим штатом, який встановив явні правила для `компаньйонських` чат-ботів — програм ШІ, які імітують дружбу або близькість. Губернатор Гевін Н`юсом у понеділок підписав законопроект 243 Сенату, який вимагає від чат-ботів ідентифікувати себе як штучні, обмежувати розмови про секс і самодеструкцію з неповнолітніми та повідомляти про випадки виявленої самогубної ідеації до офісу попередження самогубств штату.

Закон, написаний сенатором штату Стівом Падільєю (демократ від Сан-Дієго), позначає новий фронт у контролі за штучним інтелектом — зосереджуючи увагу менше на архітектурі моделі або упередженні даних і більше на емоційному інтерфейсі між людьми та машинами. Він зобов`язує компанії регулярно нагадувати, що користувачі спілкуються з програмним забезпеченням, адаптувати протоколи для реагування на ознаки самодеструкції та підтримувати фільтри контенту, відповідні віку.

Остаточна версія законопроекту є вужчою, ніж та, яку спочатку представив Паділья. Раніші варіанти передбачали аудит третіх осіб і застосовувалися б до всіх користувачів, а не лише до неповнолітніх; ці положення були вилучені під тиском індустрії.

Занадто слабке, щоб справити вплив?

Кілька правозахисних груп заявили, що остаточна версія законопроекту є занадто слабкою, щоб щось змінило. Common Sense Media та Tech Oversight Project обидві відкликали свою підтримку після того, як законодавці вилучили положення про аудит третіх осіб та більш широке виконання. В одному з коментарів на Tech Policy Press один з активістів зазначив, що переглянутий закон ставить під загрозу перетворитися на `порожній жест, а не на значущу політику`.

Н`юсом захистив цей закон як необхідний бар`єр для нових технологій. `Нова технологія, така як чат-боти та соціальні медіа, може надихати, навчати та пов`язувати — але без істинних бар`єрів технології також можуть експлуатувати, вводити в оману та наражати на небезпеку наших дітей`, — заявив він у коментарі. `Ми можемо продовжувати бути лідерами у галузі штучного інтелекту та технологій, але ми повинні робити це відповідально — захищаючи наших дітей на кожному етапі`.

Законопроект 243 супроводжує більш широку низку законів, підписаних протягом останніх кількох тижнів, включаючи SB 53, який вимагає від великих розробників ШІ публічно розкривати свої стратегії безпеки та зменшення ризиків. Разом вони поміщають Каліфорнію на передній план державного регулювання ШІ.

Але нові правила чат-ботів можуть виявитися складними в практиці. Розробники попереджають, що занадто широкий обсяг відповідальності може змусити компанії обмежити законні розмови про психічне здоров`я або сексуальність з обережності, позбавляючи користувачів, особливо ізольованих підлітків, цінної підтримки.

Контроль за виконанням також може виявитися складним: глобальна компанія-розробник чат-ботів може зіткнутися з труднощами в перевірці, хто є неповнолітнім у Каліфорнії, або моніторингом мільйонів щоденних обмінів. І, як це часто буває з багатьма першими для Каліфорнії, існує ризик, що добре задумане регулювання виявиться експортованим на національному рівні, перш ніж хтось зрозуміє, чи справді воно працює.