Anthropic обвиняют в использовании вымышленных источников для защиты от иска о нарушении авторских прав на песни

Anthropic обвинен в использовании AI «галлюцинации» в иске по поводу текста песен

Эксперт по искусственному интеллекту из компании Anthropic, поддерживаемой Amazon, обвиняется в том, что сослался на вымышленную научную статью в судебном документе, предназначенном для защиты компании от обвинений в том, что она обучила свою модель ИИ на защищенных авторским правом текстах песен без разрешения.

Документ, поданный научным сотрудником Anthropic Оливией Чен, стал частью юридической реакции компании на иск на сумму 75 миллионов долларов, поданный Universal Music Group, Concord, ABKCO и другими крупными издателями.

Издатели заявили в иске 2023 года, что Anthropic незаконно использовала тексты сотен песен, включая произведения Бейонсе, The Rolling Stones и The Beach Boys, чтобы обучить свою языковую модель Claude.

Заявление Чен содержало ссылку на статью изThe American Statistician, предназначенную для того, чтобы поддержать аргумент Anthropic о том, что Claude воспроизводит авторские тексты только в редких и специфических условиях, согласно отчету Reuters.

Во время слушания во вторник в Сан-Хосе адвокат истцов Мэтт Оппенгейм назвал цитату «полной выдумкой», но сказал, что не верит, что Чен сделала это намеренно, а только что, вероятно, использовала сам Claude для генерации источника.

Адвокат Anthropic, Сай Дамле, сообщил суду, что ошибка Чен, похоже, была ошибочной ссылкой, а не выдумкой, и раскритиковал истцов за то, что они подняли этот вопрос на поздних этапах процесса.

По данным Reuters, магистрат судья США Сьюзан ван Кюлен сказала, что этот вопрос вызывает «очень серьезную» озабоченность, отметив, что «существенная разница между пропущенной цитатой и галлюцинацией, сгенерированной ИИ, огромна».

Она отклонила запрос на немедленный допрос Чен, но приказала Anthropic официально ответить на обвинения к четвергу.

Anthropic не сразу ответила на запрос Decrypt о комментариях. Иск против Anthropic был подан в октябре 2023 года, истцы обвинили модель Claude в обучении на огромном объеме защищенных авторским правом текстов и воспроизведении их по запросу.

Они потребовали компенсацию ущерба, раскрытие обучающего набора и уничтожение нарушающего контента.

Anthropic ответил в январе 2024 года, отрицая, что его системы были разработаны для воспроизведения защищенных авторским правом текстов. Он назвал любое такое воспроизведение «редким багом» и обвинил издателей в том, что они не представили доказательства того, что типичные пользователи сталкиваются с нарушающим контентом.

В августе 2024 года на компанию был подан еще один иск, на этот раз от авторов Андреа Бартц, Чарльза Гребера и Кирка Уоллеса Джонсона, которые обвинили Anthropic в обучении Claude на пиратских версиях их книг.

Генеративный ИИ и авторское право

Это дело является частью растущей реакции против компаний генеративного ИИ, обвиняемых в использовании защищенного авторским правом материала в учебных наборах без согласия.

OpenAI сталкивается с несколькими исками от комика Сары Сильверман, Гильдии авторов иThe New York Times, обвиняющих компанию в использовании защищенных авторским правом книг и статей для обучения своих моделей GPT без разрешения или лицензий.

Meta также упоминается в аналогичных исках, истцы утверждают, что ее модели LLaMA были обучены на нелицензированных литературных произведениях, полученных из пиратских наборов данных.

Тем временем, в марте OpenAI и Google призвали администрацию Трампа смягчить ограничения авторского права в обучении ИИ, заявив, что это является барьером для инноваций в своем официальном предложении по предстоящему «Плану действий по ИИ» в США.

В Великобритании правительственный законопроект, который позволил бы компаниям искусственного интеллекта использовать защищенные авторским правом произведения без разрешения, столкнулся с препятствием на этой неделе, после того как Палата лордов поддержала поправку, требующую от компаний ИИ раскрыть, какие защищенные авторским правом материалы они использовали в своих моделях.