Блокчейн и прозрачность в системах Искусственного Интеллекта

Может ли блокчейн решить проблемы прозрачности искусственного интеллекта (ИИ)?

Искусственный интеллект (ИИ) революционизирует различные отрасли, улучшая обработку данных и принятие решений за пределами человеческих возможностей. Однако, по мере развития систем ИИ, они становятся все более непрозрачными, возникают опасения относительно прозрачности, доверия и справедливости.

Частая `черный ящик` в большинстве систем ИИ часто заставляет заинтересованные стороны сомневаться в происхождении и надежности сгенерированных ИИ-выходов. В ответ на это технологии, такие как Объяснимый ИИ (XAI), начинают появляться с целью разъяснить операции ИИ, хотя они часто не удовлетворяют полностью объяснению его сложностей.

По мере развития сложностей ИИ продолжают развиваться, так же возрастает потребность в прочных механизмах, чтобы эти системы были не только эффективными, но и надежными и справедливыми. В этот момент на сцену выходит блокчейн технология, известная своей ключевой ролью в улучшении безопасности и прозрачности через децентрализованное ведение записей.

Блокчейн имеет потенциал не только для защиты финансовых транзакций, но и для наделения операций ИИ слоем верифицируемости, который ранее было трудно достичь. Он имеет потенциал решить некоторые из самых настойчивых проблем ИИ, такие как целостность данных и трассируемость решений, делая его критическим компонентом в поиске прозрачных и надежных систем ИИ.

Крис Фэнг, исполнительный директор Chainbase, высказал свои мысли по этому поводу в интервью для crypto.news. По мнению Фэнга, хотя интеграция блокчейна может не непосредственно разрешить каждый аспект прозрачности ИИ, она улучшает несколько критически важных областей.

Может ли технология блокчейн действительно улучшить прозрачность в системах ИИ?

Технология блокчейн не решает основную проблему объяснимости в моделях ИИ. Очень важно различать между интерпретируемостью и прозрачностью. Основная причина недостатка объяснимости в моделях ИИ заключается в черно-ящичной природе глубинных нейронных сетей. Хотя мы понимаем процесс вывода, мы не понимаем логического значения каждого параметра, участвующего в нем.

Таким образом, как технология блокчейн улучшает прозрачность способами, отличающимися от улучшений интерпретируемости, предлагаемых технологиями, такими как Объяснимый ИИ (XAI) компании IBM?

В контексте объяснимого ИИ (XAI) различные методы, такие как статистика неопределенности или анализ результатов моделей и градиентов, используются для понимания их функционирования. Однако интеграция технологии блокчейн не изменяет внутренних процессов рассуждения и обучения моделей ИИ, и, следовательно, не повышает их интерпретируемость. Тем не менее, блокчейн может улучшить прозрачность тренировочных данных, процедур и причинной инференции. Например, технология блокчейн позволяет отслеживать данные, использованные для обучения модели, и включать в процессы принятия решений мнение сообщества. Все эти данные и процедуры могут быть безопасно записаны в блокчейне, тем самым улучшая прозрачность как процесса построения, так и вывода моделей ИИ.

Учитывая всеохватывающую проблему предвзятости в алгоритмах ИИ, насколько эффективен блокчейн в обеспечении происхождения и целостности данных на протяжении жизненного цикла ИИ?

Существующие методы блокчейна продемонстрировали значительный потенциал в безопасном хранении и предоставлении тренировочных данных для моделей ИИ. Использование распределенных узлов улучшает конфиденциальность и безопасность. Например, Bittensor использует распределенный подход к тренировке, распределяя данные по нескольким узлам и применяя алгоритмы для предотвращения обмана между узлами, тем самым увеличивая устойчивость распределенной тренировки моделей ИИ. Кроме того, обеспечение конфиденциальности пользовательских данных в процессе вывода имеет ключевое значение. Например, Ritual шифрует данные перед их распределением на оффчейн-узлы для проведения выводных вычислений.

Есть ли какие-либо ограничения у данного подхода?

Одно из значительных ограничений - это недостаток учета предвзятости модели, вытекающей из тренировочных данных. В частности, часто пренебрегается выявление предвзятости в предсказаниях модели, связанной с полом или расой, возникающей из тренировочных данных. В настоящее время ни технологии блокчейна, ни методы дебиасинга моделей ИИ не эффективны в целенаправленном устранении и предотвращении предвзятости через методы объяснимости или дебиасинга.

Вы считаете, что блокчейн может улучшить прозрачность в фазах валидации и тестирования модели ИИ?

Компании, такие как Bittensor, Ritual и Santiment, используют технологию блокчейн для связи он-чейн смарт-контрактов с оффчейн вычислительными возможностями. Эта интеграция обеспечивает он-чейн вывод, гарантируя прозрачность по всем данным, моделям и вычислительным мощностям, тем самым повышая общую прозрачность на протяжении всего процесса.

Какие механизмы консенсуса, по вашему мнению, наилучшим образом подходят для блокчейн сетей для валидации решений ИИ?

Я лично отстаиваю интеграцию механизмов Proof of Stake (PoS) и Proof of Authority (PoA). В отличие от традиционных распределенных вычислений, тренировка и процессы вывода ИИ требуют постоянных и стабильных ресурсов GPU на продолжительные периоды времени. Поэтому важно подтвердить эффективность и надежность этих узлов. В настоящее время надежные вычислительные ресурсы в основном находятся в дата-центрах разного масштаба, поскольку GPU для потребителей не всегда способны эффективно поддерживать сервисы ИИ на блокчейне.

Впереди, какие креативные подходы или продвижения в технологии блокчейн вы считаете критически важными для преодоления текущих прозрачности вызовов в ИИ, и как это может изменить ландшафт доверия и ответственности в ИИ?

Я вижу несколько вызовов в текущих блокчейн-ориентированных приложениях ИИ, такие как решение вопроса связи между дебиасингом модели и данными и использование технологии блокчейн для обнаружения и устранения черных ящиков. Я активно исследую способы стимулировать сообщество к проведению экспериментов по интерпретируемости модели и повышению прозрачности моделей ИИ. Более того, я размышляю о том, как блокчейн может способствовать преобразованию ИИ в истинное общественное благо. Общественные блага определяются прозрачностью, социальной пользой и служением общественному интересу. Однако, настоящие технологии ИИ часто находятся на грани между экспериментальными проектами и коммерческими продуктами. Путем использования блокчейн сети, которая стимулирует и распределяет ценность, мы можем ускорить демократизацию, доступность и децентрализацию ИИ. Такой подход может потенциально достичь выполнимой прозрачности и способствовать более высокой доверенности в системы ИИ.