Прозорий штучний інтелект: як повернути довіру до технологій в епоху децентралізації

Штучний інтелект тихо перекроює кожен куточок сучасного життя. Від того, як ми шукаємо в інтернеті, до того, як ми інвестуємо, вчимося та голосуємо, моделі ШІ тепер впливають на деякі з наших найважливіших рішень. Але за зростаючою зручністю ховається більш глибоке та термінове занепокоєння: суспільство не має доступу до інформації про те, як працюють ці моделі, на чому вони навчаються і хто виграє від цього.

Це вже було раніше. Ми вже пережили це з соціальними медіа, довіряючи невеликій групі компаній безпрецедентну владу над публічним дискурсом. Це призвело до алгоритмічної непрозорості, монетизованого гніву і розмивання спільної реальності. Цього разу під загрозою не лише наші стрічки новин, а й системи ухвалення рішень, юридичні рамки та основні інституції.

Сьогоднішній ландшафт ШІ домінує невелика кількість потужних лабораторій, які працюють за зачиненими дверима. Ці компанії навчають великі моделі на величезних наборах даних, що отримані з Інтернету, іноді без згоди, і випускають їх у продуктах, які формують мільярди цифрових взаємодій щодня. Ці моделі не підлягають перевірці. Дані не підлягають аудиту. Результати не є підзвітними.

Ця централізація є не лише технічною проблемою. Це політична та економічна проблема. Майбутнє когнітивних систем будується в чорних ящиках, закритих за юридичними фаєрволами і оптимізованих для вартості акціонерів. Оскільки системи ШІ стають усе більш автономними і впроваджуються в суспільство, ми ризикуємо перетворити основну громадську інфраструктуру на приватно регульовані двигуни.

Однак є альтернативний шлях, який вже досліджується громадами, дослідниками і розробниками по всьому світу.

• Побудова систем ШІ, які є прозорими за дизайном;
• Децентралізоване управління;
• Відповідальність перед людьми, які їх підтримують.

У такій моделі дані не просто видобуваються та монетизуються без привітання. Вони надаються, перевіряються і регулюються людьми, які їх генерують. Учасники можуть отримати визнання або винагороди. Валідатори стають акціонерами. І системи еволюціонують під наглядом громадськості, а не одностороннього контролю.

Консолідація інфраструктури ШІ відбувається з шаленою швидкістю. Урядові установи пропонують регуляції, але намагаються встигнути за розвиваються технологіями. Тим часом, довіра до ШІ знижується. Нещодавній звіт Edelman показав, що лише 35% американців довіряють компаніям ШІ, що є суттєвим падінням у порівнянні з попередніми роками.

Ця криза довіри не є несподіваною. Як може громадськість довіряти системам, які вона не розуміє, не може перевірити і немає можливості заперечити?

Єдине стійке лікування - це прозорість, не лише в самих моделях, а й на кожному рівні: від того, як збираються дані, до того, як тренуються моделі, до того, хто отримує вигоду від їх використання. Підтримуючи відкриту інфраструктуру й створюючи спільні рамки для атрибуції, ми можемо почати врівноважувати динаміку влади.

Це не про те, щоб затримувати інновації. Це про те, щоб формувати їх.

Ми ще маємо вибір у тому, як це розвиватиметься. Якщо ми хочемо майбутнього, де інтелект є спільним суспільним благом, а не приватним активом, ми повинні почати будувати системи, які є відкритими, підзвітними та справедливими.

Це починається зі запитання: кому врешті-решт повинен служити ШІ?

Рам Кумар

Рам Кумар є основним учасником OpenLedger, нового економічного шару для ШІ, де учасники, що надають дані, розробники моделей і розробники додатків нарешті отримують визнання і винагороду за створену ними цінність.