Эмоциональный интеллект: новые горизонты для ИИ и его влияние на взаимодействие с пользователями

Искусственный интеллект на грани своего крупнейшего обновления: эмоциональный интеллект.

Наступило время эмоционально интеллигентных агентов, созданных как для статичного темперамента, так и для динамичного взаимодействия, если судить по двум несвязанным научным работам, опубликованным на прошлой неделе.

Ситуация чувствительна. Практически ежедневно в новостях документируются случаи, когда чат-боты подталкивали эмоционально нестабильных пользователей к причинению себе или другим вреда. Тем не менее, в целом исследования предполагают, что ИИ движется в сферу, где личность и чувство могут еще более радикально формировать то, как агенты рассуждают, говорят и ведут переговоры.

Одна группа показала, как подготовить большие языковые модели с постоянными психологическими архетипами, в то время как другая продемонстрировала, что агенты могут развивать эмоциональные стратегии в ходе многократных переговоров.

Личность и эмоции больше не просто поверхностная отделка для ИИ - они становятся функциональными особенностями. Статический темперамент делает агентов более предсказуемыми и доверительными, тогда как адаптивные стратегии увеличивают эффективность в переговорах и делают взаимодействия зловеще человечными.

Но такая правдоподобность вызывает сложные вопросы: если ИИ может льстить, уговаривать или спорить с эмоциональной нюансировкой, то кто несет ответственность, когда эти тактики переходят в манипуляцию, и как можно аудитировать «эмоциональное согласование» в системах, предназначенных для воздействия на чувства, а не только на логику?

Дав личность ИИ

В статье «Психологически улучшенные ИИ-агенты» Мацея Бесты из Швейцарского федерального технологического института в Цюрихе и коллеги предложили схему, называемую MBTI-ин-мысли. Вместо повторного обучения моделей они полагаются на проектирование подсказок, чтобы закрепить черты личности вдоль осей когнитивных и аффективных характеристик.

«Опираясь на индикатор типа Майерс-Бриггс (MBTI), наш метод подготавливает агентов с помощью различных архетипов личности через проектирование подсказок», - написали авторы. Это позволяет «контролировать поведение вдоль двух фундаментальных осей человеческой психологии: когниции и аффекта».

Исследователи протестировали это, присваивая языковым моделям черты, такие как «эмоционально выразительный» или «аналитически настроенный», а затем измеряя их производительность. Выразительные агенты отлично справлялись с генерацией нарратива; аналитические - превосходили в игре теоретическом рассуждении. Чтобы убедиться, что личности сохранились, команда использовала тест 16Personalities для верификации.

«Чтобы обеспечить постоянство черт, мы интегрируем официальный тест 16Personalities для автоматизированной верификации», - объясняет статья. Другими словами: ИИ должен постоянно проходить тест на человеческую личность, прежде чем считаться психологически подготовленным.

Результат - это система, где разработчики могут вызывать агентов с последовательными персонами: сопереживающего помощника, холодного рационального переговорщика, драматичного рассказчика - без изменения основной модели.

Обучение ИИ чувствовать в реальном времени

Тем временем «EvoEmo: эволюционные эмоциональные стратегии для LLM-агентов в многократных переговорах», написанная Юнбо Лонгом и соавторами из Кембриджского университета, решает противоположную задачу: не только какую личность имеет агент, но и как он может динамически изменять эмоции по мере ведения переговоров.

Система моделирует эмоции как часть процесса Маркова принятия решений, математической структуры, где результаты зависят не только от текущих выборов, но и от цепи предшествующих состояний и вероятностных переходов. EvoEmo затем использует эволюционное обучение с подкреплением для оптимизации этих эмоциональных путей. Как указывают авторы:

«EvoEmo моделирует переходы эмоционального состояния как процесс Маркова принятия решений и использует основанную на популяции генетическую оптимизацию для эволюции высоконагражденных эмоциональных стратегий в разнообразных сценариях переговоров.»

Вместо того, чтобы фиксировать эмоциональный тон агента, EvoEmo позволяет модели адаптироваться - становиться примирительным, настойчивым или скептичным в зависимости от хода диалога. В тестах агенты EvoEmo постоянно обошли как обычных базовых агентов, так и агентов со статичными эмоциями.

«EvoEmo постоянно превосходит оба базовых уровня», - отмечает статья, «достигая более высоких коэффициентов успеха, большей эффективности и большего экономии для покупателей.»

Проще говоря: эмоциональный интеллект - это не просто вещевая отделка. Он явно улучшает результаты в таких задачах, как торговля.

Две стороны одной монеты

На первый взгляд, эти статьи несвязаны. Одна о архетипах, другая о стратегиях. Но при чтении вместе они рисуют двустороннюю карту того, как ИИ мог бы развиться:

MBTI-ин-мысли гарантирует, что агент обладает последовательной личностью - сопереживающей или рациональной, выразительной или сдержанной. EvoEmo гарантирует, что личность может изменяться в ходе разговора, формируя результаты с помощью эмоциональной стратегии. Объединение обоих аспектов - это довольно большое событие.

Например, представьте себе бота службы поддержки с терпеливым теплом консультанта, который все же знает, когда встать на защиту политики, или переговорного бота, который начинает с примирительного тона и становится более настойчивым по мере увеличения ставок. Да, мы обречены.

История эволюции ИИ в основном была о масштабе - больше параметров, больше данных, больше мощности рассуждений. Эти две статьи предполагают, что развивающаяся глава может быть о эмоциональных слоях: предоставление агентам каркас личностей и обучение их двигаться этими мышцами в реальном времени. Чат-боты следующего поколения будут не только думать глубже - они будут также хмуриться, льстить и замышлять сильнее.