Недотримання закону OpenAI при обговоренні партнерства з Worldcoin

OpenAI Faces Potential Law Breach Amid Its Partnership Discussion with Worldcoin

OpenAI, компанія, яка створила популярну мовну модель ChatGPT, стикається з проблемами в сфері законної відповідності та точності даних. Ця проблема спонукала NOYB - Європейський центр цифрових прав, некомерційну організацію з Відня, Австрія, подати скаргу на OpenAI до австрійського органу захисту даних (DPA).

Справді, збирання даних OpenAI викликало занепокоєння серед регуляторних органів та прихильників приватності. Цей крок від NOYB може потенційно спровокувати більш широку дискусію про етичне використання даних у технологіях. Проблеми OpenAI з даними розкривають етичні виклики штучного інтелекту

Основна суть скарги полягає у недавніх визнаннях OpenAI щодо обмежень ChatGPT у роботі з даними. За даними OpenAI, модель штучного інтелекту не може перевірити точність інформації, яку вона генерує про конкретних осіб. Крім того, вона також не може розкрити походження вхідних даних.

Умови зростаючого захоплення штучним інтелектом, викликаного запуском ChatGPT у листопаді 2022 року, широке використання цього інструменту розкрило критичні вразливості. ChatGPT працює, передбачаючи ймовірні відповіді на запитання користувача без вбудованого механізму, що забезпечує фактичну точність.

Це призвело до ситуацій, коли штучний інтелект `галлюцинує` дані, вигадуючи відповіді, які можуть бути обманливими або абсолютно хибними. Хоча такі невірності можуть бути неважливими в деяких контекстах, вони становлять значні ризики, коли мова йде про особисті дані.

Читайте далі: Як створити свого персонального чат-бота за допомогою API ChatGPT

Загальний регламент щодо захисту даних Європейського союзу (GDPR) вимагає точності персональних даних та надає особам право на доступ та виправлення невірної інформації про себе. Поточні можливості OpenAI не відповідають цим правовим вимогам, спонукаючи дискусію про етичні наслідки використання штучного інтелекту у роботі з чутливими даними.

Маартє де Грааф, юрист з питань захисту даних у noyb, підкреслює серйозність ситуації.

`Очевидно, що компанії наразі не можуть зробити чат-боти, подібні до ChatGPT, відповідними законодавству ЄС, оброблюючи дані про осіб. Якщо система не може продукувати точні та прозорі результати, вона не може використовуватися для генерації даних про осіб. Технологія має відповідати юридичним вимогам, а не навпаки`, - пояснює де Грааф.

Проблеми поширюються на широкі регуляторні виклики, окрім технічних перешкод. З моменту заснування, генеративні інструменти штучного інтелекту, зокрема ChatGPT, перебували під увагою європейських органів з охорони приватності.

Наприклад, італійський DPA наклав обмеження на обробку даних ChatGPT в початковому 2023 році, посилаючись на неточності.

Цьому слідувала спільна ініціатива Європейської ради з захисту даних з оцінки та зменшення ризиків, пов`язаних з такими платформами штучного інтелекту.

Час проведення цих юридичних викликів особливо помітний. У той самий час OpenAI обговорювало укладення стратегічного союзу з Worldcoin, проектом, співзаснованим Семом Альтманом, який також очолює OpenAI.

Читайте далі: 11 кращих розширень для Chrome ChatGPT для перевірки у 2024 році

Проте потенційна співпраця OpenAI з Worldcoin може винести додаткові шари юридичних та етичних дилем. Підхід Worldcoin до використання біометричних даних перетинається з проблемами OpenAI забезпечення конфіденційності та точності даних.

Більше того, Worldcoin потрапив під докладний контроль юридичних органів по всьому світу, включаючи Кенію, Іспанію та Аргентину, у зв`язку зі збором даних. Таким чином, ця співпраця може відкрити нові можливості для інноваційного використання технологій або встановити передумову для посилення регуляторних втручань.