Проверяемость ИИ: важность прозрачности и доказательств в эпоху искусственного суперинтеллекта

Проблема черного ящика: почему ИИ нуждается в доказательствах, а не обещаниях

Когда люди думают об искусственном интеллекте, в первую очередь они представляют собой чат-ботов и крупные языковые модели. Тем не менее, легко упустить из виду, что ИИ становится все более интегрированным в критически важные сектора общества.

Эти системы больше не просто рекомендуют, что смотреть или покупать; они также диагностируют болезни, одобряют кредиты, выявляют мошенничество и определяют угрозы.

По мере того как ИИ все больше внедряется в нашу повседневную жизнь, нам необходимо убедиться, что он действует в наших интересах. Мы должны гарантировать, что его результаты могут быть подтверждены.

Большинство систем ИИ работают в черном ящике, и мы часто не можем узнать, как они принимают решения или действуют ли так, как задумано.

Это отсутствие прозрачности является неотъемлемой частью их работы и делает практически невозможным аудит или оспаривание решений ИИ после принятия.

Для ряда приложений этого достаточно. Но в таких ключевых областях, как здравоохранение, финансы и правоохранительные органы, эта непрозрачность создает серьезные риски.

Модели ИИ могут неосознанно закодировать предвзятость, манипулировать результатами или вести себя таким образом, который противоречит юридическим или этическим нормам. Без проверяемой истории пользователи могут только догадываться, было ли решение справедливым, действительным или даже безопасным.

Эти проблемы становятся экзистенциальными, когда учитывать тот факт, что возможности ИИ продолжают расти экспоненциально.

Существует широкое согласие в области, что разработка Искусственного Суперинтеллекта (ИСИ) неизбежна.

Рано или поздно у нас будет ИИ, который превзойдет человеческий интеллект во всех областях — от научного мышления до стратегического планирования, креативности и даже эмоционального интеллекта.

Вопросы о быстрых темпах развития

Крупные языковые модели уже показывают быстрые достижения в обобщении и автономии задач.

Если суперинтеллектуальная система действует таким образом, что люди не могут предсказать или понять, как мы можем гарантировать, что она соответствует нашим ценностям? Что произойдет, если она интерпретирует команду иначе или преследует цель с непреднамеренными последствиями? Что произойдет, если она станет непокорной?

Сценарии, в которых это может угрожать человечеству, очевидны даже для сторонников ИИ.

Джеффри Хинтон, пионер глубокого обучения, предупреждает о системах ИИ, способных на кибератаки на уровне цивилизаций или массовую манипуляцию. Эксперты по биобезопасности опасаются, что лаборатории с ИИ могут развивать патогены, выходящие за пределы человеческого контроля.

А основатель Anduril Палмер Лакки утверждает, что его система Lattice AI может за несколько секунд подавить, взломать или симулировать военные цели, что делает автономную войну неизбежной реальностью.

С таким количеством возможных сценариев, как мы можем гарантировать, что ИСИ не уничтожит нас всех?

Необходимость прозрачного ИИ

Краткий ответ на все эти вопросы — это проверяемость.

Полагаться на обещания непрозрачных моделей больше не приемлемо для их интеграции в критическую инфраструктуру, тем более на уровне ИСИ. Нам нужны гарантии. Нам нужны доказательства.

Существует растущее согласие среди политиков и исследовательских сообществ в том, что для ИИ необходимы технические меры прозрачности.

Регуляторные обсуждения часто упоминают об аудиторских следах для решений ИИ. Например,США NISTиEU AI Actподчеркивают важность того, чтобы системы ИИ были `воспринимаемыми` и `понятными`.

К счастью, исследования и разработки в сфере ИИ не происходят в вакууме. Есть важные прорывы в других областях, таких как продвинутая криптография, которые могут быть применены к ИИ и помогут контролировать современные системы — и в конечном итоге систему ИСИ — в соответствии с интересами человека.

На данный момент наиболее актуальными являются доказательства с нулевым разглашением (ZKP). ZKP предлагают новый способ достижения прослеживаемости, который может быть немедленно применен к системам ИИ.

Фактически, ZKP могут встроить эту прослеживаемость в модели ИИ с самого начала. Более того, они могут генерировать неизменяемое доказательство того, что произошло.

С помощью библиотек zkML мы можем объединить доказательства с нулевым разглашением и машинное обучение, которые проверят все вычисления, произведенные на этих моделях.

В конкретных терминах мы можем использовать библиотеки zkML, чтобы проверить, что модель ИИ использовалась правильно, что она выполнила ожидаемые вычисления и что ее вывод следовал заданной логике — без раскрытия внутренних весов модели или конфиденциальных данных.

Черный ящик

Это по сути выводит ИИ из черного ящика и позволяет нам точно знать, где он находится и как он туда попал. Что более важно, это сохраняет человека в процессе.

Разработка ИИ должна быть открытой, децентрализованной и проверяемой, и zkML должен достичь этого.

Это необходимо сделать сегодня, чтобы сохранить контроль над ИИ завтра. Мы должны удостовериться, что интересы человека защищены с первого дня, гарантируя, что ИИ работает так, как мы ожидаем, прежде чем он станет автономным.

ZkML не только о том, как остановить злонамеренный ИСИ.

В краткосрочной перспективе это о том, чтобы убедиться, что мы можем доверять ИИ в автоматизации чувствительных процессов, таких как кредиты, диагностика и правопорядок, потому что у нас есть доказательства того, что он работает прозрачно и честно.

Библиотеки zkML могут дать нам основания доверять ИИ, если они используются в большом масштабе.

Насколько полезно иметь более мощные модели, следующий шаг в развитии ИИ — это гарантировать, что они обучаются и развиваются корректно.

Широкое использование эффективных и масштабируемых zkML вскоре станет ключевым элементом в гонке ИИ и в конечном итоге в создании ИСИ.

Путь к Искусственному Суперинтеллекту не может быть вымощен догадками. По мере того как системы ИИ становятся все более способными и интегрированными в критически важные области, доказательство того, что они делают — и как они это делают — будет жизненно важным.

Проверяемость должна перейти от концепции исследования к принципу проектирования. С такими инструментами, как zkML, у нас теперь есть жизнеспособный путь для внедрения прозрачности, безопасности и ответственности в основы ИИ.

Вопрос уже не в том, можем ли мы доказать, что делает ИИ, а в том, готовы ли мы это сделать.

Редактировал Себастьян Синклер