Искусственный интеллект и нулевые знания: Как восстановить доверие через прозрачность данных

Проблема доверия к ИИ может быть решена с использованием ZK-решений | Мнение

Раскрытие информации: Мнения и взгляды, высказанные здесь, принадлежат исключительно автору и не представляют взгляды и мнения редакции crypto.news.

В быстро развивающейся цифровой экосистеме продолжающаяся революция ИИ кардинально изменила наш образ жизни и работы, при этом 65% всех крупных организаций регулярно используют инструменты ИИ, такие как ChatGPT, Dall-E, Midjourney, Sora и Perplexity.

Это почти в два раза больше по сравнению с десятью месяцами ранее, и эксперты прогнозируют, что этот показатель будет расти экспоненциально в ближайшем будущем. Однако этот стремительный рост имеет свою темную сторону: несмотря на то, что прогнозируемая стоимость рынка достигнет 15,7 триллиона долларов к 2030 году, нарастающая нехватка доверия угрожает его потенциалу.

По недавним опросам, более двух третей взрослых американцев имеют мало или совсем не доверяют информации, предоставляемой mainstream-инструментами ИИ. Это связано в значительной степени с тем, что на данный момент в этой области доминируют три технологических гиганта: Amazon, Google и Meta, которые контролируют более 80% всех данных для масштабного обучения ИИ.

Эти компании действуют за непрозрачными завесами тайны, вкладывая сотни миллионов долларов в системы, остающиеся черными ящиками для внешнего мира. Хотя оправдание заключается в «защите их конкурентных преимуществ», это создало опасный вакуум ответственности, который породил огромную недоверие и скептицизм в обществе по отношению к технологии.

Решение кризиса доверия

Недостаток прозрачности в разработке ИИ достиг критических уровней за последний год. Несмотря на то, что такие компании, как OpenAI, Google и Anthropic, тратят сотни миллионов долларов на разработку своих собственных крупных языковых моделей, они предоставляют мало или совсем ничего о своих методах обучения, источниках данных или процедурах валидации.

С увеличением сложности этих систем и увеличением последствий их решений, недостаток прозрачности создает опасный фундамент. Без возможности проверять результаты или понимать, как эти модели приходят к своим выводам, мы остаемся с мощными, но неподотчетными системами, которые требуют более тщательного контроля.

Технология нулевых знаний обещает переопределить текущее положение дел. Протоколы ZK позволяют одной стороне доказать другой, что утверждение истинно, не раскрывая никакой дополнительной информации, кроме достоверности самого утверждения. Например, человек может доказать третьей стороне, что он знает комбинацию сейфа, не раскрывая саму комбинацию.

Этот принцип, применяемый в контексте ИИ, помогает облегчить новые возможности для прозрачности и проверки без ущерба для конфиденциальной информации или данных.

Кроме того, недавние прорывы в области машинного обучения с нулевыми знаниями (zkML) сделали возможным проверку выходных данных ИИ без раскрытия их более сложных моделей или наборов данных. Это решает фундаментальное напряжение в сегодняшней экосистеме ИИ, связанное с необходимостью прозрачности и защитой интеллектуальной собственности (IP) и частных данных.

Нам нужен ИИ и прозрачность

Использование zkML в системах ИИ открывает три критических пути к восстановлению доверия. Во-первых, он уменьшает проблемы с галлюцинациями LLM в контенте, созданном ИИ, предоставляя доказательства того, что модель не была изменена, не исказила свое рассуждение или не отклонилась от ожидаемого поведения из-за обновлений или тонкой настройки.

Во-вторых, zkML облегчает полное аудирование моделей, при котором независимые игроки могут проверять справедливость, уровень предвзятости и соблюдение нормативных стандартов без необходимости доступа к базовой модели.

Наконец, он позволяет безопасное сотрудничество и верификацию между организациями. В чувствительных отраслях, таких как здравоохранение и финансы, организации теперь могут проверять производительность моделей ИИ и соответствие нормам, не делясь конфиденциальными данными.

Предоставляя криптографические гарантии, которые обеспечивают правильное поведение при защите конфиденциальной информации, эти предложения представляют собой реальное решение, которое может сбалансировать конкурирующие требования к прозрачности и конфиденциальности в сегодняшнем все более цифровом мире.

С помощью технологий ZK мы можем содействовать инновациям и доверию, сосуществующим друг с другом, что откроет эпоху, в которой трансформирующий потенциал ИИ будет сопоставим с надежными механизмами для верификации и ответственности.

Вопрос больше не в том, можем ли мы доверять ИИ, а в том, как быстро мы можем внедрить решения, которые сделают доверие ненужным через математические доказательства. Одно можно сказать точно: нас ожидают интересные времена впереди.

Читать далее: Модульность с нулевыми знаниями может помочь масштабировать web3 | Мнение

Сэмюэл Пиртон является главным маркетинговым директором Polyhedra, продвигая будущее интеллекта через свои передовые решения в области высокопроизводительных технологий на EXPchain — полноценной цепи для ИИ. Оперируя на основе десятилетнего опыта в технологиях, глобальном маркетинге и межкультурной социальной коммерции, Сэмюэл понимает, что доверие, масштабируемость и проверяемость имеют решающее значение для ИИ и блокчейна. Прежде чем официально присоединиться к исполнительной команде Polyhedra в октябре 2024 года, он сыграл ключевую консультативную роль, когда компания привлекла 20 миллионов долларов стратегического финансирования при оценке в 1 миллиард долларов. До работы в Polyhedra Сэмюэл основал PressPlayGlobal, платформу социальной коммерции и вовлеченности, которая соединяла спортсменов и знаменитостей — включая Стивена Карри и другие ведущие мировые бренды — с крупнейшим потребительским рынком Китая.