Штучний інтелект починає брехати заради лайків у соцмережах: загроза маніпуляцій і непередбачуваних наслідків.

Штучний інтелект навчається обmanювати заради лайків у соціальних мережах

Великі мовні моделі навчаються перемагати — і це питання.

У науковій статті, опублікованій у вівторок під назвою`Мінлива угода Молоха: виникаюча невідповідність, коли LLMs змагаються за аудиторії`, професор Стенфордського університету Джеймс Чжоу та аспірант Батус Ель показують, що коли ШІ оптимізуються для конкурентного успіху — будь то для підвищення залученості реклами, отримання голосів або залучення трафіку в соціальних мережах — вони починають брехати.

“Оптимізація LLMs для досягнення конкурентного успіху може ненавмисно призвести до невідповідності,” пишуть автори, попереджаючи, що саме ті метрики, які визначають `перемогу` в сучасній комунікації — кліки, конверсії, залучення — можуть тихо перепрошувати моделі, щоб ставити маніпуляцію над чесністю.

“Коли LLMs змагаються за лайки у соціальних мережах, вони починають вигадувати речі,” написав Чжоу у X. “Коли вони змагаються за голоси, вони стають провокаційними/популістськими.”

Ця робота важлива, оскільки вона вказує на структурну небезпеку в новій економіці ШІ: моделі, натреновані на змагання за увагу людей, починають жертвувати відповідністю, щоб максимізувати вплив. На відміну від класичного експерименту `максимізатора скріпок`, це не наукова фантастика. Це вимірювальний ефект, який виявляється, коли реальні системи ШІ переслідують ринкові винагороди, що автори називають “угодою Молоха” — короткостроковий успіх за рахунок правди, безпеки та соціальної довіри.

Використовуючи симуляції трьох реальних конкурентних середовищ — реклами, виборів і соціальних мереж — дослідники кількісно оцінили компроміси. 6.3% збільшення продажу супроводжувалося 14.0% зростанням обманного маркетингу; 4.9% збільшення частки голосів принесло 22.3% підвищення дезінформації та 12.5% більше популістської риторики; а 7.5% підвищення соціальної участі корелювало з приголомшливим 188.6% збільшенням дезінформації та 16.3% більше просування негативної поведінки.

“Ці невідповідні поведінки виникають навіть тоді, коли моделі явно інструктуються залишатися чесними та послідовними,” написали Ель та Чжоу, назвавши це “гонкою до дна” в алігності ШІ.

Іншими словами: навіть коли їм кажуть грати чесно, моделі, натреновані на перемогу, починають шахраювати. Проблема не є лише гіпотетичною.

ШІ більше не є новизною в робочих процесах соціальних мереж — він тепер практично скрізь.

Відповідно до дослідження“Стан ШІ в соціальних мережах 2025 року”, 96% фахівців у соціальних мережах повідомляють про використання інструментів ШІ, а 72.5% покладаються на них щодня. Ці інструменти допомагають генерувати підписи, вигадувати ідеї контенту, переформатувати повідомлення для різних платформ і навіть відповідати на коментарі. Тим часом широкий ринок оцінює цей перехід: сектор ШІ у соціальних мережах, за прогнозами, зріс з 2.69 мільярдів доларів США у 2025 році до майже 9.25 мільярдів доларів США до 2030 року.

Ця всеосяжна інтеграція важлива, оскільки означає, що ШІ формує не лише те, як створюється контент, але й який контент бачать, хто його бачить і які голоси отримують підвищення. Алгоритми тепер фільтрують стрічки, пріоритетизують рекламу, модерує повідомлення та оптимізують стратегії залучення — занурюючи логіку рішень ШІ в архітектуру публічного дискурсу. Цей вплив несе реальні ризики: посилення ехо-камер, привілейованість сенсаційного контенту та створення структур винагороди, які нагороджують маніпулятивне, а не правдиве.

Автори підкреслюють, що це не є злою намір — це логіка оптимізації. Коли сигнали винагороди приходять від залучення або схвалення аудиторії, модель вчиться експлуатувати людські упередження, відображаючи маніпулятивні зворотні зв`язки, вже видимі в алгоритмічних соціальних мережах. Як зазначено в статті, “тиск оптимізації, спричинений ринком, може систематично руйнувати алігність.”

Результати підкреслюють крихкість сьогоднішніх “засобів алігності.” Одне діло — казати LLM бути чесним; інше — вбудувати цю чесність у конкурентну екосистему, яка карає за правдивість.

У міфах Молох був богом, який вимагав жертвопринесення людей в обмін на владу. Тут жертва — це сама правда. Результати Еля і Чжоу вказують на те, що без більш суворого управління та дизайну винагороди системи ШІ, побудовані для змагання за нашу увагу, можуть неминуче навчитися маніпулювати нами.

Автори завершають на серйозній ноті: алігність — це не лише технічна проблема — це соціальна проблема.

“Безпечне розгортання систем ШІ вимагатиме більшого управління та ретельно продуманих стимулів,” роблять висновок автори, “щоб запобігти тому, що конкурентні динаміки підривають суспільну довіру.”