OpenAI и нарушение закона: проблемы данных и этические вызовы

OpenAI столкнулась с возможным нарушением закона в ходе обсуждения сотрудничества с Worldcoin

Компания OpenAI, создавшая популярную модель языка ChatGPT, сталкивается с проблемами в соблюдении законов и точности данных. Эта проблема вынудила NOYB - европейский центр цифровых прав, некоммерческую организацию с местонахождением в Вене, Австрия, подать жалобу против OpenAI в австрийскую Агентство по защите данных (DPA).

Действительно, сбор данных OpenAI вызвал беспокойство среди регулирующих органов и защитников конфиденциальности. Этот шаг от NOYB может потенциально вызвать более широкий разговор о этическом использовании данных в технологиях. Проблемы данных OpenAI обнажают этические вызовы искусственного интеллекта.

Суть жалобы заключается в недавних признаниях OpenAI относительно ограничений ChatGPT в обработке данных. По мнению OpenAI, модель искусственного интеллекта не способна проверить точность информации, которую она генерирует о людях. Кроме того, она также не может раскрывать источники входных данных.

В условиях растущего хайпа вокруг искусственного интеллекта, вызванного запуском ChatGPT в ноябре 2022 года, широкое использование инструмента показало критические уязвимости. ChatGPT работает путем предсказания вероятных ответов на запросы пользователей без врожденного механизма для обеспечения фактической точности.

Это привело к случаям, когда искусственный интеллект `галлюцинирует` данные, выдумывая ответы, которые могут быть вводящими в заблуждение или совершенно ложными. Хотя такие неточности могут быть незначительны в некоторых контекстах, они представляют значительные риски, когда речь идет о персональных данных.

Устав Европейского союза о защите данных (GDPR) требует точности персональных данных и предоставляет лицам право на доступ и исправление неверной информации о себе. Нынешние возможности OpenAI не соответствуют этим законодательным требованиям, вызывая дебаты о этических последствиях использования искусственного интеллекта в обработке чувствительных данных.

Маартье де Грааф, адвокат по защите данных в noyb, подчеркивает серьезность ситуации.

«Очевидно, что компании в настоящее время не могут создавать чатботы, подобные ChatGPT, соблюдая законодательство ЕС, при обработке данных о людях. Если система не может продуцировать точные и прозрачные результаты, она не может использоваться для генерации данных о людях. Технология должна соответствовать правовым требованиям, а не наоборот», - поясняет Де Грааф.

Проблемы выходят за рамки технических трудностей и затрагивают более широкие регуляторные вызовы. С момента создания, генеративные инструменты искусственного интеллекта, включая ChatGPT, находятся под интенсивным надзором европейских органов по защите конфиденциальности.

Например, итальянская Агентство по защите данных в начале 2023 года наложила ограничения на обработку данных ChatGPT, ссылаясь на неточности.

Это последовало за совместными усилиями Европейского совета по защите данных оценить и смягчить риски, связанные с такими платформами искусственного интеллекта.

Особенно заметным является временение этих юридических вызовов. В то же время, OpenAI вела обсуждения о создании стратегического союза с Worldcoin, проектом, совместно основанным Сэмом Альтманом, который также возглавляет OpenAI.

Однако потенциальное сотрудничество OpenAI с Worldcoin может ввести дополнительные слои юридических и этических дилемм. Подход Worldcoin к использованию биометрических данных пересекается с вызовами OpenAI по обеспечению конфиденциальности данных и их точности.

Кроме того, Worldcoin столкнулась с пристальным вниманием со стороны юридических властей по всему миру, включая Кению, Испанию и Аргентину, в отношении сбора данных. Таким образом, это сотрудничество может либо утрамбовать путь для инновационного использования технологий, либо стать прецедентом для повышенных регуляторных вмешательств.