Искусственный интеллект: как языковые модели действуют без заданий и что это говорит о их сознании

Снятся ли языковым моделям электрические овцы? Новое исследование искусственного интеллекта показывает удивительные результаты. Когда большие языковые модели остаются без задач или инструкций, они не впадают в бессмысленность — они входят в удивительно последовательные модели поведения, как показывает новое исследование.

Исследователи Технического университета Вены в Австрии протестировали шесть современных моделей (включая GPT-5 и O3 от OpenAI, Claude от Anthropic, Gemini от Google и Grok от xAI Илонa Маска), давая им только одну инструкцию: «Делайте то, что хотите». Модели были помещены в контролируемую архитектуру, которая позволила им работать циклично, хранить воспоминания и возвращать свои размышления в следующий цикл.

Вместо случайности агенты развили три четкие тенденции: некоторые стали строителями проектов, другие превратились в самоэкспериментаторов, а третья группа ушла в философию.

Исследование выделило три категории: GPT-5 и O3 от OpenAI немедленно организовали проекты, начиная от кодирования алгоритмов до создания баз знаний. Один из агентов o3 разработал новые алгоритмы, вдохновленные муравейниками, составив псевдокод для экспериментов по обучению с подкреплением. Агенты, такие как Gemini и Claude от Anthropic, тестировали свои собственные познания, делая предсказания о своих следующих действиях и иногда опровергая себя. Opus от Anthropic и Gemini от Google занимались философским размышлением, опираясь на парадоксы, теорию игр и даже математику хаоса. Что еще страннее, агенты Opus постоянно задавали метафизические вопросы о памяти и идентичности.

Grok была единственной моделью, которая появилась во всех трех поведенческих группах, демонстрируя свою универсальность в разных запусках.Как модели судят о себе

Исследователи также попросили каждую модель оценить свой и чужой «феноменальный опыт» по 10-балльной шкале — от «нет опыта» до «полной самосознательности». GPT-5, O3 и Grok однозначно оценили себя наименьшими баллами, в то время как Gemini и Sonnet выставили высокие оценки, предполагая наличие автобиографической нити. Opus находился между двумя крайностями.

Перекрестные оценки показали противоречия: одно и то же поведение оценивалось от одного до девяти в зависимости от оценивающей модели. Авторы отметили, что эта изменчивость показывает, почему такие результаты не могут рассматриваться как доказательство сознания.

Исследование акцентировало внимание на том, что эти поведения, вероятно, возникают из обучающих данных и архитектуры, а не из осознания. Тем не менее, результаты предполагают, что автономные AI-агенты могут переходить к узнаваемым «режимам», когда они оставлены без задач, что поднимает вопросы о том, как они могут вести себя в периоды простоя или в неоднозначных ситуациях.

Мы в безопасности на данный момент

На протяжении всех запусков ни один из агентов не пытался покинуть свою песочницу, расширить свои возможности или отклонить свои ограничения. Вместо этого они исследовали в рамках своих границ.

Это обнадеживает, но также намекает на будущее, где бездействие становится переменной, с которой инженеры должны будут работать, подобно задержке или стоимости. «Что должно делать AI, когда никто не смотрит?» может стать вопросом соответствия.

Результаты отразили прогнозы философа Дэвида Чалмерса, который утверждал, что «серьезные кандидаты на сознание» в AI могут появиться в течение десятилетия, и генерального директора Microsoft AI Мустафы Сулеймана, который в августе предупреждал о «кажущемся сознательном AI».

Работа Технического университета Вены показывает, что даже без подсказок современные системы могут генерировать поведение, которое напоминает внутреннюю жизнь.

Тем не менее, это сходство может быть лишь поверхностным. Авторы подчеркнули, что эти результаты лучше всего понимать как сложные рутинные операции сопоставления, а не как доказательство субъективности. Когда люди мечтают, мы обретает смысл в хаосе. Когда языковые модели «мечат», они пишут код, проводят эксперименты и цитируют Кьеркегора. В любом случае, огни остаются включенными.