Прозорість штучного інтелекту: як доведення змінить його роль у суспільстві

Проблема чорного ящика: чому штучному інтелекту потрібні докази, а не обіцянки

Коли люди думають про штучний інтелект, вони уявляють собі чат-ботів та великі мовні моделі. Однак легко не помітити, що ШІ стає дедалі більше інтегрованим у критичні сектори суспільства.

Ці системи вже не лише рекомендують, що подивитися або купити; вони також діагностують захворювання, затверджують кредити, виявляють шахрайство та виявляють загрози.

Якщо ШІ все більше вбудовується в наше повсякденне життя, ми маємо впевнитися, що він діє в наших найкращих інтересах. Ми маємо забезпечити, щоб його результати могли бути підтверджені.

Більшість систем ШІ працюють у чорному ящику, де ми часто не маємо можливості знати, як вони приймають рішення або чи діють вони так, як потрібно.

Це відсутність прозорості, яка є невід`ємною частиною їх роботи, робить майже неможливим аудит або запит рішень ШІ після факту.

Для певних застосувань цього достатньо. Але в критичних секторах, таких як охорона здоров`я, фінанси та правоохоронні органи, ця непрозорість ставить серйозні ризики.

Моделі ШІ можуть ненавмисно кодувати упередження, маніпулювати результатами або діяти в спосіб, що суперечить правовим або етичним нормам. Без перевіряльного сліду користувачі змушені гадати, чи було рішення справедливим, дійсним або навіть безпечним.

Ці побоювання стають екзистенціальними, коли додається той факт, що можливості ШІ продовжують зростати експоненційно.

Існує загальний консенсус у галузі, що розробка штучного суперінтелекту (ASI) є неминучою.

Рано чи пізно у нас буде ШІ, який перевершує людський інтелект у всіх доменах: від наукового мислення до стратегічного планування, творчості і навіть емоційного інтелекту.

Ставлячи під сумнів швидкі темпи розвитку

Великі мовні моделі (LLMs) вже демонструють швидкі прирости в генеруванні та автономії завдань.

Якщо суперінтелектуальна система діє у спосіб, який люди не можуть передбачити чи зрозуміти, як ми можемо забезпечити, щоб вона відповідала нашим цінностям? Що станеться, якщо вона по-різному інтерпретує команду або переслідує мету з непередбаченими наслідками? Що станеться, якщо вона вийде з-під контролю?

Сценарії, які можуть загрожувати людству, очевидні навіть для прихильників ШІ.

Джеффрі Хінтон, піонер глибокого навчання, попереджає про системи ШІ, здатні на кібератаки цивізаційного рівня або масову маніпуляцію. Експерти з біобезпеки побоюються, що лабораторії, доповнені ШІ, можуть розробити патогени, які виходять з-під контролю людей.

А засновник Anduril Педро Лакі стверджує, що його система Lattice AI може за кілька секунд знешкоджувати, зламувати або підробляти військові цілі, роблячи автономну війну неминучою реальністю.

З такою кількістю можливих сценаріїв, як ми забезпечимо, що ASI не знищить нас усіх?

Необхідність прозорого ШІ

Коротка відповідь на всі ці питання — це перевірка.

Покладатися на обіцянки непрозорих моделей більше немає змісту для їх інтеграції в критичну інфраструктуру, не говорячи вже про масштаби ASI. Нам потрібні гарантії. Нам потрібні докази.

В політичних та дослідницьких спільнотах зростає консенсус в тому, що технічні заходи прозорості є необхідними для ШІ.

Регуляторні обговорення часто згадують про сліди аудиту рішень ШІ. Наприклад,Національний інститут стандартів і технологій СШАтаЗаконодавство ЄС про ШІпідкреслили важливість того, щоб системи ШІ були `можливими для трасування` та `зрозумілими`.

На щастя, дослідження та розробки ШІ не відбуваються у вакуумі. Існують важливі прориви в інших галузях, таких як сучасна криптографія, які можна застосувати до ШІ і забезпечити контроль над сьогоднішніми системами — і зрештою над системою ASI.

Найбільш актуальними в даний час є нульові знання доведень (ZKP). ZKP пропонує новий спосіб досягти трасування, який відразу можна застосувати до систем ШІ.

Фактично, ZKP можуть вбудовувати це трасування в моделі ШІ з нуля. Більше, ніж просто фіксувавши те, що зробив ШІ, що може бути підроблене, вони можуть генерувати незмінний доказ того, що сталося.

Використовуючи бібліотеки zkML, зокрема, ми можемо поєднувати нульові знання доведення і машинне навчання, що підтверджує всі обчислення, які виробляються на цих моделях.

У конкретних термінах, ми можемо використовувати бібліотеки zkML, щоб перевірити, що модель ШІ використовувалася правильно, що вона виконала очікувані обчислення і що її вихід відповідає вказаній логіці — все це без розкриття внутрішніх ваг моделі або чутливих даних.

Чорний ящик

Це ефективно виводить ШІ з чорного ящика і дозволяє нам точно знати, де він знаходиться та як туди потрапив. Що ще важливіше, це зберігає людей у процесі.

Розробка ШІ повинна бути відкритою, децентралізованою та перевіряльною, і zkML має досягти цього.

Це потрібно зробити вже сьогодні, щоб зберегти контроль над ШІ завтра. Ми повинні бути впевнені, що інтереси людини захищені з першого дня, маючи можливість гарантувати, що ШІ працює так, як ми очікуємо, перш ніж він стане автономним.

Однак zkML не просто про зупинку зловмисного ASI.

У короткостроковій перспективі це про забезпечення того, що ми можемо довіряти ШІ в автоматизації чутливих процесів, таких як кредити, діагностика та поліція, оскільки ми маємо докази того, що він працює прозоро та справедливо.

Бібліотеки zkML можуть дати нам причини довіряти ШІ, якщо вони використовуються у великих масштабах.

Як би кориснішими могли бути потужніші моделі, наступним кроком у розвитку ШІ є гарантія того, що вони вчаться та еволюціонують правильно.

Широке використання ефективних і масштабованих zkML незабаром стане ключовим компонентом у гонці за ШІ та у підсумковому створенні ASI.

Дорога до штучного суперінтелекту не може бути засланою на основі здогадок. Коли системи ШІ стають дедалі здатнішими і інтегрованими в критичні сфери, доведення того, що вони роблять — і як вони це роблять — стане життєво важливим.

Перевірка повинна перейти з дослідницького поняття до принципу дизайну. З інструментами, такими як zkML, ми тепер маємо життєздатний шлях для вбудовування прозорості, безпеки та підзвітності в основи ШІ.

Питання вже не в тому, чи можемо ми довести, що робить ШІ, а в тому, чи виберемо ми це зробити.