Профессионалы все еще не доверяют агентам ИИ: результаты исследования YouGov показали опасения по поводу надежности и качества работы автоматизированных решений.

Почему профессионалы все еще не доверяют ИИ и агентам ИИ, несмотря на растущую популярность – исследование YouGov

Компания Pegasystems Inc. (Pega) недавно опубликовала результаты нового исследования, в котором изучалось, как работники относятся к агентному ИИ. Совместное исследование с YouGov охватило более 2100 профессионалов из США и Великобритании, которые используют цифровые устройства для своей работы.

Исследование определяет «агентов ИИ» как программное обеспечение или инструменты, работающие на основе искусственного интеллекта, которые могут помогать в выполнении различных задач, таких как создание контента, анализ данных, автоматизация повторяющихся процессов или предоставление рекомендаций.

Согласно исследованию, хотя большинство работников (57%) выразили интерес к использованию агентов ИИ на работе, другие остаются осторожными, выражая значительные опасения относительно надежности и качества.

Почему некоторые профессионалы все еще не доверяют агентам ИИ

Согласно некоторым отчетам, профессионалы традиционно выражали недоверие к ИИ, ссылаясь на опасения по поводу надежности и объяснимости. Системы агентного ИИ зачастую принимают решения, которые могут быть трудно интерпретировать, что приводит к потенциальным ошибкам и недоразумениям.

Когда их спрашивали, почему они не используют агентов ИИ, 33% профессионалов выразили беспокойство о качестве работы, производимой ИИ. 32% волновались о недостатке человеческой интуиции и эмоционального интеллекта, а 30% просто не доверяли точности ответов, сгенерированных ИИ.

Некоторые также беспокоятся о том, что агенты ИИ затеняют процесс принятия решений, что делает трудным для профессионалов понимание и доверие к результатам. Такой недостаток прозрачности может затруднять устранение неполадок и останавливать прогресс в инновациях.

Еще одной причиной, по которой некоторые профессионалы не полностью увлечены агентным ИИ, является возможность ограничения их способности расти и учиться. По их словам, хотя агенты ИИ эффективно выполняют поставленные перед ними задачи, они, как правило, делают это без объяснений.

Это означает, что профессионалы могут упустить возможности для обучения, которые приходят с участием в творческом процессе. Конечный результат – поверхностное понимание задач и сниженная способность улучшать или устранять неполадки с течением времени.

Многие профессионалы достигли мастерства в ключевых этапах процессов, необходимых для успеха в своей деятельности. В результате многие предпочли бы сохранять контроль и понимание, но это сложнее сделать, когда речь идет об автономных агентах ИИ.

Таким образом, агенты ИИ ставят под сомнение вопрос о том, готовы ли профессионалы пожертвовать тем, что делает их особенными, ради автоматизации, которая не гарантирует результатов и со временем подрывает объяснимость.

Как профессионалы, принимающие агентов ИИ, сравниваются с их скептически настроенными коллегами

В последнее время все больше организаций принимают агентный ИИ, отчасти из-за его способности улучшать операции и производительность. Исследование Pegasystems показало, что около 58% работников, принявших участие в опросе, признали, что уже используют агентов ИИ.

Эти ранние последователи отметили получение преимуществ. Примерно 41% респондентов выбрали автоматизацию рутинных задач в качестве основного преимущества, затем идет снижение времени, затрачиваемого на поиск информации, связанной с работой (36%), и быстрое резюмирование встреч (34%).

Несмотря на текущие ограничения и беспокойства, 46% опрошенных считают, что ИИ окажет положительное влияние на их работу в течение следующих пяти лет, и лишь 13% ожидают негативных последствий. Остальные респонденты были нейтральны к этому вопросу или не были уверены в влиянии ИИ.

Что касается улучшения этих агентов, те, кто уже их используют, идентифицировали области, которые, по их мнению, требуют большего внимания.

• 42% указали на повышение точности и надежности как на главный приоритет для улучшения инструментов агентного ИИ.
• Следующим в списке стало лучшее обучение по использованию этих инструментов (39%), затем увеличенная прозрачность в процессах принятия решений ИИ (33%).

Исследование показало, что восприятие профессионалов относительно агентов ИИ и ИИ в целом улучшилось по всем направлениям. Однако решение выявленных ими проблем может улучшить уровень принятия.

Исследование Pegasystems и YouGov подчеркивает важность доверия к технологиям, и как это доверие может быть построено через прозрачность и обучение.