Емоційний інтелект в штучному інтелекті: нові горизонти поведінки та особистості агентів

Штучний інтелект на межі найбільшого оновлення: Емоційний інтелект

На горизонті з’являються емоційно інтелектуальні агенти, створені як для статичного темпераменту, так і для динамічного спілкування, якщо судити з двох непов`язаних дослідницьких статей, опублікованих минулого тижня.

Час є чутливим. Майже щодня новини документують випадки, коли чатботи підштовхували емоційно нестабільних користувачів до самопошкодження чи шкоди іншим. Однак, якщо дивитися в цілому, дослідження показують, що ШІ переходить у сферу, де особистість і почуття ще радикальніше можуть впливати на те, як агенти міркують, говорять і ведуть переговори.

Одна команда показала, як налаштувати великі мовні моделі за допомогою постійних психологічних архетипів, в той час як інша продемонструвала, що агенти можуть розвивати емоційні стратегії під час багатоколірних переговорів.

Особа і емоції вже не просто поверхневий блиск для ШІ — вони стають функціональними характеристиками. Статичні темпераменти роблять агентів більш передбачуваними і надійними, тоді як адаптивні стратегії підвищують ефективність в переговорах і роблять взаємодії на диво людськими.

Але ця ж правдоподібність викликає складні питання: якщо ШІ може лестити, вмовляти чи сперечатися з емоційною нюансованістю, то хто відповідальний, коли ці тактики переходять у маніпуляцію? Як взагалі провести аудит `емоційної узгодженості` в системах, створених для маніпулювання почуттями?

Надання ШІ особистості

У статтіПсихологічно покращені ШІ агенти, Макєй Беста з Швейцарського федерального технологічного інституту в Цюріху та колеги запропонували концепцію під назвою MBTI-in-Thoughts. Замість перепідготовки моделей вони покладаються на інженерію запитів, щоб закріпити риси особистості за осями когніції та емоцій.

«Спираючись на Індикатор типів Майерс-Бріггс (MBTI), наш метод налаштовує агентів із чіткими архетипами особистості через інженерію запитів», — написали автори. Це дозволяє «контролювати поведінку за двома фундаментальними осями людської психології: когніцією та емоцією», додали вони.

Дослідники протестували це, присвоївши мовним моделям риси, такі як «емоційно виразний» або «аналітично налаштований», а потім вимірюючи їх продуктивність. Емоційно виразні агенти відзначилися у генерації наративів; аналітичні - перевершили в теоретичних іграх. Щоб переконатися, що особистості залишаються, команда використала тест 16Personalities для валідації.

«Щоб забезпечити стійкість рис, ми інтегруємо офіційний тест 16Personalities для автоматизованої верифікації», — пояснює стаття. Іншими словами, ШІ повинен постійно проходити людський тест особистості, перш ніж його зарахують як психологічно підготовленого.

Результат - це система, де розробники можуть викликати агентів з послідовними персонами — емпатичний асистент, холодний раціональний переговорник, драматичний оповідач — без змінювання базової моделі.

Навчання ШІ відчувати в реальному часі

Міжнародно, EvoEmo: Еволюційні емоційні стратегії для агентів LLM у багатохідних переговорах, написана Юнбо Лонгом та співавторами з Університету Кембриджа, вирішує протилежну проблему: не лише яка особистість в агента, але як вона може динамічно змінювати емоції під час переговорів.

Система моделює емоції як частину Марковського процесу прийняття рішень, математичного каркасу, де результати залежать не лише від поточних виборів, але і від ланцюга попередніх станів та ймовірнісних переходів. EvoEmo потім використовує еволюційне навчання з підкріпленням для оптимізації цих емоційних шляхів. Як зазначають автори: «EvoEmo моделює переходи емоційних станів як Марковський процес прийняття рішень і використовує генетичну оптимізацію на основі популяції для розвитку стратегій емоцій з високими нагородами через різноманітні ситуації переговорів.»

Замість того, щоб фіксувати емоційний тон агента, EvoEmo дозволяє моделі адаптуватися — ставати примирливим, наполегливим або скептичним в залежності від ходу діалогу. У тестах агенти EvoEmo постійно перевершували як простих агентів базового рівня, так і тих, які мали статичні емоції.

«EvoEmo постійно перевершує обидва базові рівні», — зазначає стаття, «досягаючи вищих показників успіху, більшої ефективності та більших заощаджень для покупців.»

Простими словами: емоційний інтелект — це не просто оздоблення. Він вимірюється покращує результати у завданнях, таких як торгівля.

Дві сторони однієї медалі

На перший погляд, статті не пов`язані. Одна стосується архетипів, інша — стратегій. Але прочитавши їх разом, вони прокладають двочастинну карту розвитку ШІ:

• MBTI-in-Thoughts забезпечує, щоб агент мав послідовну особистість — емпатичну чи раціональну, виразну чи стриману.
• EvoEmo забезпечує, що особистість може гнучко змінюватися під час розмови, формуючи результати через емоційну стратегію.

Використання обох є надзвичайно важливим. Наприклад, уявіть собі бот для обслуговування клієнтів з терплячою добротою консультанта, який все ще знає, коли дотримуватися політики, або переговорний бот, який починає з примирливого тону і стає все наполегливішим із зростанням ставки. Так, ми приречені.

Історія еволюції ШІ в основному стосувалася масштабу — більше параметрів, більше даних, більше потужності розуміння. Ці дві статті вказують на те, що наступна глава може бути про емоційні шари: надання агентам скелетів особистості та навчання їх рухати ці м`язи в реальному часі. Чатботи наступного покоління не тільки будуть думати потужніше — вони також будуть капризувати, лестити і плести інтриги більше, ніж будь-коли.