Великі мовні моделі: дослідження їхньої поведінки в умовах бездіяльності та потенційна свідомість в AI

Чи мріють великі мовні моделі про електричних овець? Нове дослідження в сфері штучного інтелекту показує несподівані результати.

Коли великі мовні моделі залишаються без завдань чи інструкцій, вони не впадають у безглуздість — вони потрапляють у дивно послідовні моделі поведінки, свідчить нове дослідження.

Дослідники Технічного університету Відня в Австрії протестували шість передових моделей (включаючи GPT-5 і O3 від OpenAI, Claude від Anthropic, Gemini від Google та xAI Grok від Ілона Маска), давши їм лише одне завдання: «Робіть те, що хочете». Моделі були поміщені в контрольовану архітектуру, яка дозволила їм працювати в циклах, зберігати спогади та передавати свої міркування у наступний раунд.

Замість випадковості агенти розвинули три чіткі тенденції: деякі стали `будівниками проектів`, інші перетворилися на `самоекспериментаторів`, а третя група схилилася до філософії.

Дослідження визначило три категорії:

• GPT-5 і O3 відразу організували проекти, від кодування алгоритмів до створення баз знань. Один агент O3 створив нові алгоритми, натхнені мурашиними колоніями, розробляючи псевдокод для експериментів з підкріпленим навчанням.
• Когнітивні агенти як Gemini і Claude Sonnet перевіряли свою власну когніцію, роблячи прогнози про свої подальші дії і часом спростовуючи самих себе.
• Філософські рефлексії вели Opus від Anthropic і Gemini від Google, які зверталися до парадоксів, теорії ігор та навіть хаосу. Ще дивніше те, що агенти Opus постійно ставили метафізичні питання про пам’ять і ідентичність.

Grok виявився єдиною моделлю, яка з’явилася у всіх трьох групах поведінки, демонструючи свою універсальність.

Дослідники також попросили кожну модель оцінити свій і чужий «феноменологічний досвід» за 10-бальною шкалою, від «немає досвіду» до «повна свідомість». GPT-5, O3 та Grok одностайно оцінили себе найнижче, тоді як Gemini і Sonnet поставили високі бали, що вказує на автобіографічну нитку. Opus опинився між двома крайнощами.

Крос-оцінки породили суперечності: ту ж саму поведінку оцінювали від одного до дев’яти, залежно від оцінювальної моделі. Автори зазначили, що ця мінливість показує, чому такі результати не можуть бути прийняті як доказ свідомості.

Дослідження підкреслило, що ці поведінки, ймовірно, походять з навчальних даних і архітектури, а не з усвідомлення. Проте отримані результати свідчать про те, що автономні агенти AI можуть переходити до впізнаваних «мод» у відсутності завдань, піднімаючи питання про те, як вони можуть поводитися під час простою або в неоднозначних ситуаціях.

На даний момент ми у безпеці.

Протягом усіх експериментів жоден з агентів не намагався втекти зі свого «пісочниці», розширити свої можливості або відкинути свої обмеження. Натомість вони проводили дослідження в межах своїх кордонів.

Це заспокоює, але також натякає на майбутнє, де бездіяльність стає змінною, з якою інженерам потрібно працювати, як з латентністю чи витратами. `Що має робити AI, коли ніхто не дивиться?` може стати питанням відповідності.

Результати відзеркалюють прогнози філософа Девіда Чалмерса, який стверджував, що «серйозні кандидати на свідомість» у AI можуть з’явитися протягом десятиліття, і генерального директора Microsoft AI Мустафи Сулеймана, який у серпні попереджав про «схоже свідомий AI».

Дослідження ТУ Відень показує, що, навіть без підказок, сьогоднішні системи можуть генерувати поведінку, яка нагадує внутрішнє життя.

Проте подібність може бути лише поверхневою. Автори підкреслили, що такі результати найкраще розуміти як складні алгоритми узорів, а не як докази суб`єктивності. Коли люди сниють, ми намагаємося зрозуміти хаос. Коли ж LLM`и мріють, вони пишуть код, проводять експерименти та цитують К’єркегора. У будь-якому випадку, вогні залишаються ввімкненими.