Уход Яна Лайке из OpenAI: причины и последствия

Бывший руководитель инициатив по согласованию и `суперсогласованию` в OpenAI Ян Лайке выступил в Twitter в пятницу, чтобы объяснить свои причины ухода из разработчика искусственного интеллекта во вторник. В твите Лайке указал на недостаток ресурсов и фокус на безопасности как причины его решения уйти от создателя ChatGPT.

Команда по согласованию или суперсогласованию OpenAI отвечает за безопасность и создание более гуманоцентричных моделей искусственного интеллекта.

Уход Лайке стал третьим случаем ухода из высокопоставленных членов команды OpenAI с февраля. Во вторник бывший главный ученый и соучредитель OpenAI Илья Суцкевер также объявил, что он покидает компанию.

`Отойти от этой работы было одним из самых сложных вещей, которые я когда-либо делал`, - написал Лайке. `Потому что нам срочно нужно разобраться в том, как направлять и контролировать системы искусственного интеллекта, которые намного умнее нас.` Вчера был мой последний день руководителем по согласованию, лидером суперсогласования и исполнителем в @OpenAI.

Лайке отметил, что хотя он считал OpenAI лучшим местом для проведения исследований в области искусственного интеллекта, он не всегда разделял точку зрения руководства компании.

`Создание машин, умнее людей, это в своей сущности опасное предприятие`, - предупредил Лайке. `Но за последние годы культура безопасности и процессы отошли на второй план передя блестящими продуктами.`

Отмечая опасности искусственного общего интеллекта (ИОИ), Лайке сказал, что OpenAI несет `огромную ответственность`, но сказал, что компания больше сосредоточена на достижении ИОИ, а не на безопасности, отметив, что его команда `шла вразрез с ветром` и боролась за вычислительные ресурсы.

Также известный как сингулярность, искусственный общий интеллект относится к модели ИИ, способной решать проблемы в различных областях, как это делал бы человек, а также обладающей способностью к самообучению и решению проблем, для которых программа не была обучена.

В понедельник OpenAI представила несколько обновлений своего флагманского продукта генеративного ИИ, ChatGPT, включая более быструю, более интеллектуальную модель GPT-4О. По словам Лайке, его бывшая команда в OpenAI работает над несколькими проектами, связанными с более интеллектуальными моделями ИИ.

До работы в OpenAI Лайке работал исследователем в области согласования в Google DeepMind.

`Это было такое дикое путешествие за последние ~3 года,` - написал Лайке. `Моя команда запустила первый [Усиление обратной связи от человека] LLM с InstructGPT, опубликовала первую масштабируемую контрольную поверку на LLMs, [и] пионерили автоматизированную интерпретируемость и слабую к сильной обобщение. Скоро выйдут еще более захватывающие вещи.`

По мнению Лайке, серьезный разговор о последствиях достижения ИОИ давно пора.

`Мы должны приоритизировать подготовку к ним как можно лучше,` - продолжал Лайке. `Только тогда мы сможем обеспечить, чтобы ИОИ приносил пользу всему человечеству.`

Хотя Лайке не упомянул никаких планов в твите, он призвал OpenAI подготовиться к тому, когда ИОИ станет реальностью.

`Научитесь чувствовать ИОИ,` - сказал он. `Действуйте с той тяжестью, которая соответствует тому, что вы создаете. Я верю, что вы можете `запустить` культурные изменения, которые нужны.`

`Я рассчитываю на вас,` - заключил он. `Мир рассчитывает на вас.`

Шагните не немедленно откликнуться на запрос Decrypt.

Отредактировано Андрю Хейвардом