Небезпеки AGI: відхід керівника OpenAI

Керівник OpenAI, що пішов, говорить, що безпека `становить другорядне значення перед блискучими продуктами`

Ян Лейке, колишній керівник ініціатив з вирівнювання та `супервирівнювання` від OpenAI, взяв у п`ятницю до Twitter (також відомий як Х) з метою пояснити свої причини для відходу від розробника штучного інтелекту у вівторок. У твіті, Лейке вказав на відсутність ресурсів та акцент на безпеці як причини свого рішення покинути виробника ChatGPT.

Команда вирівнювання або супервирівнювання OpenAI відповідає за безпеку та створення більш людсько-центрованих моделей штучного інтелекту.

Відхід Лейке став третім відомим членом команди OpenAI, який покинув її з лютого. У вівторок співзасновник OpenAI та колишній головний вчений Ілля Суцкевер також оголосив, що він залишає компанію.

«Відійти від цієї роботи було одним із найважчих рішень у моєму житті», – написав Лейке. «Оскільки нам терміново потрібно зрозуміти, як керувати системами штучного інтелекту набагато розумними за нас» Вчора був мій останній день як керівника вирівнювання, голови супервирівнювання та виконавчого директора OpenAI.

Лейке зауважив, що, хоча він думав, що OpenAI буде найкращим місцем для досліджень у галузі штучного інтелекту, він не завжди був на одній хвилі з керівництвом компанії.

«Будування машин розумніших за людину - це цілком небезпечне підприємство», – попередив Лейке. «Проте протягом останніх років культура безпеки та процеси відступили перед блискучими продуктами.»

Зазначаючи небезпеки штучного загального інтелекту (AGI), Лейке сказав, що у OpenAI є «величезна відповідальність», але сказав, що компанія більше фокусується на досягнення AGI, а не на безпеці, вказавши, що його команда «мусила боротися проти вітру» і боролася за обчислювальні ресурси.