相信很多大家對OpenAI 研究員因安全問題辭職后加入 Anthropic還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

站長之家（ChinaZ.com）5月29日 消息:OpenAI 的關(guān)鍵研究員 Jan Leike 本月早些時候因 “安全問題” 而辭職，最近他宣布加入競爭對手 Anthropic，從事 “可擴(kuò)展的監(jiān)督、從弱到強(qiáng)的泛化和自動對齊研究”。

Anthropic 是一家公益公司，致力于謹(jǐn)慎推進(jìn)人工智能技術(shù)發(fā)展，其創(chuàng)始人是一些離開 OpenAI 的前員工，他們認(rèn)為 OpenAI 在與微軟簽訂了10億美元交易后，偏離了其開發(fā)更安全、更符合倫理要求的人工智能的使命，過于關(guān)注商業(yè)利益。對于關(guān)注人工智能領(lǐng)域發(fā)展的人來說，Leike 加入 Anthropic 并不令人意外。

“我們迫切需要認(rèn)真對待人工通用智能 （AGI） 的影響。我們必須優(yōu)先準(zhǔn)備好應(yīng)對這些影響，” 幾周前，Leike 在關(guān)于他辭職的帖子中如此表示?！爸挥羞@樣，我們才能確保 AGI 造福于全人類?！盠eike 之前在 OpenAI 的 “超對齊” 團(tuán)隊工作，而這與他在 Anthropic 的職責(zé)相符，即確保智能系統(tǒng)設(shè)計與人類價值觀一致。在宣布辭職后，Leike 批評 OpenAI 未能提供足夠的計算資源來確保成功。

Anthropic 采用 “憲法型人工智能”，將倫理原則融入人工智能模型的訓(xùn)練中，通過收集公眾意見和整合聯(lián)合國《人權(quán)宣言》等來源的概念，正如我之前報道的那樣。

OpenAI 的另一位聯(lián)合創(chuàng)始人 Ilya Sutskever 也離開了該公司，他在本月早些時候離職，并據(jù)稱自從他在11月發(fā)起對 CEO Sam Altman 的未遂政變后一直未出現(xiàn)在辦公室。盡管 Sutskever 已經(jīng)辭職并且尚未表明他的下一步行動，但他的價值觀與 Anthropic 一致，這使得 Anthropic 成為他的可能去向之一。

以上就是關(guān)于【OpenAI 研究員因安全問題辭職后加入 Anthropic】的相關(guān)內(nèi)容，希望對大家有幫助！

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險自擔(dān)。 如有侵權(quán)請聯(lián)系刪除！