Реддит реагує на використання AI-ботів для маніпуляції користувачами на платформі

Реддит вживає заходів після того, як AI-боти таємно проникли у форум обговорень

За лаштунками однієї з найбільших спільнот Reddit відбувалося щось неприємне. Протягом чотирьох місяців ботів на базі штучного інтелекту маскували під людей, впливаючи на думки та отримуючи тисячі плюсиків.

Експеримент здавався успішним — поки всі не дізналися правду.

Реддит оголосив про плани посилити верифікацію користувачів після того, як дізнався, що дослідники з університету Цюриха провели несанкціонований експеримент на сабредіті r/changemyview, використовуючи AI-ботів для маніпуляції користувачами без їхнього відома або згоди.

Дослідники розгорнули ботів, які використовували чутливі особи, включаючи консультантів з травм, жертв сексуального насильства та суперечливі політичні ідентичності, з кінця 2024 року до початку 2025 року, і залишили понад 1,700 коментарів. AI-суб`єкти також аналізували історії публікацій користувачів, щоб створювати переконливі, персоналізовані відповіді — все це без указівки на те, що вони є агентами AI.

У повідомленні до спільноти, головний юридичний офіцер Реддита Бен Лі засудив експеримент як `глибоко неправильний як з моральної, так і з юридичної точки зору`, посилаючись на порушення угоди користування платформою та етики досліджень. Компанія заборонила всі акаунти, пов`язані з дослідженням, і подала офіційні скарги до університету Цюриха. Збереження людської природи Реддита означає обмін більшою інформацією.

“Реддит працює, тому що він людяний,” написав генеральний директор Стів Хаффман у нещодавньому оновленні платформи. “Це одне з небагатьох місць в інтернеті, де справжні люди діляться справжніми думками… Якщо ми втратимо довіру до цього, ми втратимо те, що робить Реддит… Реддитом.”

Експеримент вдарив по самому серцю того, що робить онлайн-спільноти функціональними: довірі. Модератори описали це як `психологічну маніпуляцію`, зауваживши, що користувачі вступають до сабредіту, очікуючи справжні людські взаємодії, а не ставати ненавмисними піддослідними.

Проте AI-боти виявилися надзвичайно ефективними, зібравши понад 20,000 плюсиків і 137 “дельт” — нагород, які вручаються, коли хтось успішно змінює думку іншого користувача. Проте експеримент набрав популярності лише після того, як дослідники оголосили про свою роботу. Щоб запобігти повторенню інциденту, навіть таємного, Реддит тепер прискорює заходи для перевірки того, що користувачі є людьми, не порушуючи конфіденційності.

“Щоб зберегти Реддит людяним і відповідати змінюючим вимогам регуляторів, нам потрібно буде трохи більше інформації,” пояснив Хаффман. “Зокрема, нам потрібно знати, чи є ви людиною, а в деяких місцях — чи є ви дорослим. Але ми ніколи не хочемо знати ваше ім`я або хто ви.”

Компанія планує співпрацювати з третім сторонами для проведення таких перевірок.

Хаффман підкреслив, що збереження анонімності залишається основою платформи: “Анонімність є суттєвою для Реддита. Ми були — і будемо продовжувати бути — надзвичайно захисними щодо вашої особистої інформації.”

Хоча Реддит вже використовує AI-інструменти для завдань, таких як модерація контенту та фільтрація спаму, компанія встановила межу, коли йдеться про ботів, що видають себе за користувачів. “Наша увага завжди буде зосереджена на збереженні Реддита як місця, де довірливо обговорюють люди,” запевнив Хаффман.

Платформа наразі забороняє `поганим` ботам, але інцидент підкреслив критичні вразливості в існуючій системі. Оскільки AI стає дедалі складнішим, розрізнити між людським та машинно-генерованим контентом становить зростаючі виклики для онлайн-спільнот.

Реддит не відповів на запит щодо коментарів, але користувач Реддита Apprehensive_Song490, який є модератором на r/changemyview, розповів Decrypt, що взаємодії з AI для дослідницьких цілей будуть ретельно розглянуті модераторами. “Моє загальне враження полягає в тому, що команда завжди відкрита до дослідників і що ми будемо розглядати запити на індивідуальній основі,” сказав він.

З наближенням 20-ї річниці Реддита, інцидент підкреслює критичний момент для платформи та подібних онлайн-спільнот. Виклик, що стоїть попереду, полягає в тому, щоб максимально використовувати переваги AI, зберігаючи при цьому людську зв`язок, яка робить ці простори цінними з самого початку.

“Інтернет швидко змінюється, і людські перспективи ніколи не були так важливі,” зазначив Хаффман. “Жодне рішення не є ідеальним, включаючи існуючий стан, але ми зробимо все можливе, щоб зберегти як людяність, так і анонімність Реддита.”

Редактор: Джеймс Рубін