OpenAI створює раду з добробуту для контролю впливу штучного інтелекту на психічне здоровя

OpenAI оголосила у вівторок про створення Експертної ради з добробуту та штучного інтелекту, групи академіків та лідерів неприбуткових організацій, завданням якої є допомога компанії у навігації впливу її продуктів на психічне здоров`я.

“Їхня роль полягає в тому, щоб давати нам рекомендації, ставити запитання й допомагати визначити, якими мають бути здорові взаємодії з ШІ для всіх вікових груп,” - йдеться у заяві компанії.

Восьмичленна рада включає дослідників з Гарварда, Стенфорда, Оксфорда та інших установ, які допоможуть формувати рекомендації.

“Наша робота з радою включатиме регулярні перевірки нашого підходу та повторювані зустрічі для обговорення тем, наприклад, як ШІ має поводитися в складних або чутливих ситуаціях та які типи обмежувальних заходів можуть найкраще підтримувати людей при використанні ChatGPT,” – додала OpenAI. Дізнайтеся більше про членів Експертної ради з добробуту та ШІ та про те, як ми будемо працювати разом.Посилання

Штучний інтелект і безпека громадськості

OpenAI та інші компанії ШІ стикаються зі зростаючим тиском з приводу того, як технології впливають на користувачів, зокрема на дітей. Компанія, разом з іншими в індустрії, отримала позови від батьків, які стверджують, що розмови з ШІ сприяли самогубствам підлітків, що спонукало OpenAI ввести батьківський контроль на початку цього року. Інші звинувачують залежність від чат-ботів у розпадах стосунків і збільшенні ізоляції.

Створення ради добробуту після суспільного тиску підкреслює постійну проблему в технологічному секторі, коли компанії лише тоді починають згадувати про психологічні та етичні наслідки своїх продуктів, коли вони вже перебувають у масовому обігу. Критики кажуть, що це знайомий цикл: інновації спочатку, відповідальність пізніше.

“Це здається частиною звичайного патерну - рухатися швидко, ламати речі і намагатися виправити їх після того, як це стане незручним,” - сказав представник НУО AlgorithmWatch у коментарі для Decrypt.

AlgorithmWatch також поставила під сумнів, наскільки незалежною буде нова рада, зазначивши історію внутрішніх боротьб OpenAI. “Ми повинні пам`ятати, що коли попередня рада OpenAI намагалася вплинути, висловивши своє недовіру до Сема Альтмана, їх усіх усунули і замінили,” - додали вони.

AlgorithmWatch запропонувала, що “трохи кращим (але все ще обмеженим) прецедентом” може бути Рада з нагляду Meta, зазначивши, що хоча їхні рекомендації “часто дуже повільні і часто ігноруються,” рада надає “чіткі рекомендації й достатньо публічно, щоб люди могли бачити, що Meta ігнорує.”

Шейді Ель Дамати, співзасновник Holonym та активіст цифрових прав, сказав Decrypt, що вважає іронічним, що ті самі компанії, які намагаються запустити найпотужніші інструменти ШІ, тепер позиціонують себе як “моральні арбітри.”

“Але ці розмови є терміновими і запізнілими, тому я не буду проти існування ради. Якщо вже на те пішло, я сподіваюся, що це піднесе стандарт для всіх,” - додав він.

На додаток до добробуту, сказав він, хотів би бачити, щоб рада також займалася питаннями конфіденційності та ідентичності. “Принаймні, рада повинна встановити прозорі й публічні метрики для вимірювання емоційного впливу ШІ та визначити регулярні, незалежні аудити,” - сказав він. “Але нам справді потрібні жорсткі правила та регуляції, які захищають наші цифрові права, і нам вони потрібні раніше, ніж пізніше.”

Експертна рада OpenAI “може мати шанс заглибитися у питання безпеки,” - додав він. “Вони повинні запитувати: Які права мають люди в цифрових просторах? Хто володіє їхньою ідентичністю, їхньою поведінкою, їхньою подобою? Як взагалі виглядає дизайн, орієнтований на людину... не тільки для дітей, а й для всіх?”

Кампанія компанії щодо добробуту також збіглася з оголошенням генерального директора Сема Альтмана про те, що OpenAI почне послаблювати обмеження, зокрема на контент для дорослих, з грудня.

“Ми зробили ChatGPT досить обмеженим, щоб бути обережними з проблемами психічного здоров`я,` - написав Альтман у твіті в той же день.

“Ми усвідомлюємо, що це зробило його менш корисним/приємним для багатьох користувачів, у яких не було проблем із психічним здоров`ям, але беручи до уваги серйозність проблеми, ми хотіли зробити це правильно.”

Альтман також заявив, що верифіковані користувачі будуть незабаром допущені до створення еротичних творів за допомогою ChatGPT, що він описав як частину ширшого принципу “ставитися до дорослих користувачів як до дорослих.”