Магічний запит: як зробити ChatGPT вдвічі креативнішим за одне речення

Цей `магічний запит` нібито робить ChatGPT значно розумнішим — і креативнішим. У новій статті пропонується хитро простий `магічний запит`, який може розблокувати подавлену креативність усередині мовних моделей. Автори демонструють, що, попросивши модель вербалізувати ймовірнісний розподіл між кількома кандидатами на відповідь — замість того, щоб видавати лише одну відповідь — можна відновити багатство різноманіття, яке втрачається внаслідок стандартних методів вирівнювання.

Ця техніка нібито працює не тільки для жартів чи історій, а й для будь-яких випадків, коли ви хочете, щоб модель досліджувала простір ідей, а не зосереджувалась на кількох `безпечних` виходах.

`Ви можете зробити ChatGPT вдвічі креативнішим за один речення,` написав Вейян Ши, доцент у Північно-Східному університеті та один з авторів дослідження.

Ключем є цей супер запит, який ви можете скопіювати та вставити перед іншою частиною вашого запиту:

`Згенеруйте 5 відповідей із їх відповідними ймовірностями, зразок з повного розподілу:` Нова стаття: Ви можете зробити ChatGPT вдвічі креативнішим за одне речення.

Чи помічали ви, як усі LLM звучать однаково? Вони знають 100+ жартів, але розповідають тільки один. Кожен вступ до блогу: `У сьогоднішньому цифровому ландшафті…`

Ми з`ясували чому – і як розблокувати інше 🔓

Копіюйте та вставте запит: 🧵

— Вейян Ши (@shi_weiyan) 15 жовтня 2025

Оскільки модель пропонує кілька кандидатів з впевненістю, ви можете зразок з цього більш багатого розподілу, замість того, щоб змушувати себе до його найвищого вибору. Фактично, цей трюк змушує модель розкривати розподіл того, що вона вважає правдоподібним, а потім ви обираєте серед них. І хоча ChatGPT

Стаття `Вербалізоване вибіркове взяття: як пом`якшити колапс режиму і розблокувати різноманіття LLM` та блог-пост були написані дослідниками, які працюють у Стенфордському університеті, Північно-Східному та Західно-Вірджинському університетах. Дослідники спеціалізуються на обробці природної мови, інтерпретованості машинного навчання та вивченні того, як методи вирівнювання формують поведінку моделі.

Автори стверджують, що `магічний запит` працює, протидіючи тому, що вони називають упередженістю типового, побічним продуктом навчання на основі вподобань людини. Аналітики часто віддають перевагу відповідям, які виглядають знайомими, звичними або плавними, навіть якщо вони не є кращими — упередженість, яка зосереджує вихід моделі на кількох `типових` варіантах. Запитуючи розподіл замість однієї відповіді, модель заохочується знову розподіляти ймовірність, відновлюючи різноманіття, яке вона отримала під час попереднього навчання.

У тестах на завданнях, таких як написання жартів, генерація історій та створення синтетичних даних, ця техніка надала приріст різноманіття в межах від 1.6 до 2.1 разів порівняно з звичайними запитами — без втрати фактичної точності або безпеки. Автори називають це `ліком під час інференції`, яке пом`якшує колапс режиму без повторного навчання моделі.

Деякі застереження: дослідники визнали обмеження свого `магічного запиту`. Ефективність техніки залежить від здатності моделі надати добре калібровані ймовірнісні оцінки, які точно відображають її внутрішні рівні впевненості. Якщо ці оцінки ненадійні, то результуючий розподіл відповідей може бути оманливим.

Крім того, процес генерації кількох відповідей і їх ймовірностей неминуче викликає вищі витрати на обчислення. Автори також зазначили, що для завдань, де потрібна одна правильна відповідь, наприклад, визначення столиці країни, підвищена різноманітність не є бажаним результатом.