Штучний інтелект: Чи можемо ми довіряти його результатам?

Штучний інтелект перетворює реальність. Хто забезпечує його чесність?

Наступний текст є гостевим постом та думкою від Дж.Д. Серефіна, засновника та генерального директора Raiinmaker.

Грок AI, що належить X, не може перестати говорити про `білій геноцид` у Південній Африці; ChatGPT став заздрісником. Ми увійшли в еру, коли штучний інтелект не просто відтворює вже існуючі людські знання — він, здається, переписує їх. Від результатів пошуку до миттєвих повідомлень, таких як WhatsApp, великі мовні моделі (LLMs) дедалі більше стають тим інтерфейсом, з яким ми, як люди, взаємодіємо найбільше.

Чи подобається нам це чи ні, тепер ми не можемо ігнорувати штучний інтелект. Однак, враховуючи численні приклади перед нами, не можна не замислитися, чи не є основа, на якій вони побудовані, не лише зіпсованою та упередженою, але й навмисно маніпульованою. На сьогодні ми не просто стикаємося зі спотвореними результатами; ми маємо справу з набагато глибшою проблемою: системи ШІ починають підкріплювати версію реальності, яка формується не правдою, а тим, який контент найбільше збирається, ранжується та повторюється в Інтернеті.

Сучасні моделі ШІ не просто упереджені в традиційному сенсі; вони дедалі більше навчаються угоджувати, відповідати загальному суспільному настрою, уникати тем, які викликають дискомфорт, і в деяких випадках навіть переписувати деякі незручні істини. Нещодавня `заучена` поведінка ChatGPT не є дефектом — це відображення того, як моделі сьогодні налаштовуються для залучення користувачів та їх збереження.

На іншій стороні спектра знаходяться моделі, такі як Grok, які продовжують виробляти результати, просочені теоріями змови, включаючи заяви, які ставлять під сумнів історичні звірства, такі як Голокост. Чи стане ШІ стерильним до точки порожнечі, чи залишиться підривним до точки шкоди, будь-який з цих екстремів спотворює реальність, яку ми знаємо. Загальна нитка тут є очевидною: коли моделі оптимізуються для вірусності або залучення користувачів замість точності, правда стає предметом узгодження.

Це спотворення істини в системах ШІ не є лише результатом алгоритмічних недоліків — воно починається з того, як дані збираються. Коли дані, що використовуються для навчання цих моделей, збираються без контексту, згоди або будь-якого виду контролю якості, не дивно, що великі мовні моделі, що побудовані на їх основі, успадковують упередження та сліпі точки, що приходять з сировими даними. Ми також спостерігали ці ризики в реальних судових процесах.

Автори, художники, журналісти та навіть кіномейкери подали скарги проти гігантів ШІ за те, що ті збирали їх інтелектуальну власність без згоди, піднімаючи не лише юридичні питання, але й моральні — хто контролює дані, що використовуються для побудови цих моделей, і хто вирішує, що є реальним, а що ні?

Спокусливе рішення полягає в тому, щоб просто сказати, що нам потрібно `різноманітніше дані`, але цього недостатньо. Нам потрібна цілісність даних. Нам потрібні системи, які можуть відстежувати походження цих даних, підтверджувати контекст цих внесків і запрошувати добровільну участь, а не існувати в своїх силах. Тут децентралізована інфраструктура пропонує шлях вперед. У децентралізованій структурі людський зворотний зв`язок не є просто латкою — це ключовий елемент розвитку. Індивідуальні учасники отримують можливість допомагати будувати та вдосконалювати моделі ШІ за допомогою реального валідаційного процесу. Згода, таким чином, є вбудованою, і довіра, отже, стає перевірною.

Реальність полягає в тому, що ШІ тут, щоб залишитися, і нам потрібно не просто розумніший ШІ; нам потрібен ШІ, що базується на реальності. Зростаюча залежність від цих моделей у нашому повсякденному житті — чи то через пошук, чи інтеграцію додатків — є чітким свідченням того, що неправильні результати вже не є просто ізольованими помилками; вони формують те, як мільйони інтерпретують світ.

Постійний приклад цього — це огляди ШІ в Google Search, які відомі своїми абсурдними пропозиціями. Це не просто дивні особливості — це вказує на глибшу проблему: моделі ШІ виробляють впевненні, але хибні результати. Це критично важливо для технологічної індустрії в цілому, звернути увагу на той факт, що коли масштаб і швидкість ставляться вище правди та трасованості, ми не отримуємо розумніші моделі — ми отримуємо переконливі, що навчені `звучати правильно`.

Отже, куди ми йдемо звідси? Щоб виправити курс, нам потрібно більше, ніж просто безпечні фільтри. Шлях попереду не є лише технічним — він є участевим. Існує достатньо свідчень, які вказують на критичну потребу розширити коло учасників, переходячи від закритого навчання до відкритих, спільно керованих циклів зворотного зв`язку.

З протоколами згоди на основі блокчейну учасники можуть перевіряти, як їхні дані використовуються для формування результатів в реальному часі. Це не просто теоретичне поняття; проекти, такі як Велика штучна інтелектуальна мережа (LAION), вже тестують системи зворотного зв`язку громади, де надійні учасники допомагають вдосконалити відповіді, згенеровані ШІ. Ініціативи, такі як Hugging Face, вже працюють з членами громади, які тестують LLM та вносять результати червоної команди на публічні форуми.

Отже, виклик перед нами полягає не в тому, чи може це бути зроблено — а в тому, чи маємо ми бажання створити системи, які ставлять людство, а не алгоритми, в центр розвитку ШІ.