OpenAI продовжує втрачати співробітників - вони вважають, що ШІ може бути небезпечним для людства
Колишня співробітниця OpenAI Гретхен Крюгер (Gretchen Krueger) повідомила, що 14 травня пішла з компанії у зв'язку з побоюваннями, що штучний інтелект, який розробляє OpenAI, може становити загрозу для людства. Це "непросте рішення" вона прийняла незадовго до того, як про свій відхід оголосили Ілля Суцкевер (Ilya Sutskever) і Ян Лейке (Jan Leike), які керували нині розформованим підрозділом Superalignment.
"Я подала у відставку за кілька годин до того, як почула новини про [Іллю Суцкевера] і [Яна Лейке], і прийняла своє рішення незалежно. Їхні побоювання я поділяю. У мене також є інші побоювання, які частково збігаються", - написала Крюгер у соцмережі X. За її словами, компанії необхідно виконати роботу з поліпшення "процесів ухвалення рішень; підзвітності; прозорості; документації; забезпечення дотримання політик; обережності в застосуванні наших власних технологій; і скорочення впливу на нерівність, права і навколишнє середовище".
Крюгер, яка працювала фахівцем із розроблення політик дослідження, заявила, що ці побоювання поділяє громадськість - вони "можуть впливати на те, як і ким можуть визначатися аспекти майбутнього", і ці побоювання не слід "неправильно сприймати як вузькі, спекулятивні або такі, що не мають стосунку" до створення і роботи ШІ. "Один зі способів, яким технологічні компанії можуть обеззброїти тих, хто намагається притягнути їх до відповідальності, - посіяти розкол між тими, хто висловлює занепокоєння або кидає виклик їхньому домінуванню. Я вкрай стурбована тим, щоб цьому запобігти", - зазначила Крюгер.
Головний науковий співробітник і співзасновник компанії Ілля Суцкевер і виконавчий директор Ян Лейке, які залишили OpenAI минулого тижня, очолювали підрозділ Superalignment, що розробляв заходи безпеки, які запобігають виходу сильного ШІ (AGI) з-під контролю. За словами Лейке, компанія ставила "блискучі продукти" вище за заходи безпеки: відділу Superalignment доводилося боротися за ресурси, а виконувати свою роботу йому ставало дедалі важче.
Джерело: SmartPhone.ua
Обговорення новини
Попередні новини
Гендиректор OpenAI: сучасний ШІ виглядатиме ніяково на тлі GPT-522:04 23.05.2024Гендиректор OpenAI Сем Альтман (Sam Altman) у нещодавньому інтерв'ю натякнув, що модель штучного інтелекту нового покоління GPT-5 настільки перевершить наявні рішення, що GPT-4 матиме вигляд "дещо незручно".
Операційний директор Apple провів таємні переговори з TSMC з приводу випуску ШІ-чіпів23:56 21.05.2024Рішення Apple почати використання процесорів M2 Ultra власної розробки у складі своєї серверної інфраструктури, про яке стало відомо нещодавно, може виявитися лише першим кроком на шляху створення спеціалізованих чипів для прискорення штучного інтелекту.
ASUS представляє ASUS Vivobook S 15, перший комп’ютер Copilot+ PC з функціями штучного інтелекту Windows 1107:32 21.05.2024Вчора на онлайн-презентації «Наступний рівень. ШІ неймовірний» (Next Level. AI Incredible) компанія ASUS анонсувала нове покоління комп’ютерів зі штучним інтелектом (ШІ). Його першим представником став ноутбук ASUS Vivobook S 15 (S5507), який працює на основі процесорної платформи Snapdragon X Elite.
