相信很多大家對OpenAI、微軟、智譜AI等全球16家公司共同簽署前沿人工智能安全承諾還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

5月24日 消息:近日，OpenAI、谷歌、微軟和智譜AI等來自不同國家和地區(qū)的16家公司，在“人工智能首爾峰會”（AI Seoul Summit）上共同簽署了前沿人工智能安全承諾(Frontier AI Safety Commitments)。這一承諾標(biāo)志著AI開發(fā)領(lǐng)域的一次重大進(jìn)展，旨在加強AI技術(shù)的安全性和透明度。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

1. 承諾要點確保前沿AI安全的負(fù)責(zé)任治理結(jié)構(gòu)和透明度基于人工智能安全框架，負(fù)責(zé)任地說明如何衡量前沿AI模型的風(fēng)險建立前沿AI安全模型風(fēng)險緩解機制的明確流程

圖靈獎得主Yoshua Bengio認(rèn)為，這一承諾的簽署是建立國際治理制度以促進(jìn)人工智能安全的重要一步。OpenAI全球事務(wù)副總裁Anna Makanju也表示，這一承諾是推動先進(jìn)AI系統(tǒng)安全實踐的重要一步。

2. 背景與動因

近期，OpenAI聯(lián)合創(chuàng)始人、首席科學(xué)家Ilya Sutskever與OpenAI超級對齊團(tuán)隊共同領(lǐng)導(dǎo)人Jan Leike相繼離開OpenAI。Leike在X發(fā)布帖子，批評OpenAI忽視安全問題。這一事件在業(yè)界引發(fā)廣泛關(guān)注，凸顯了當(dāng)前AI安全問題的嚴(yán)峻性。

5月21日，圖靈獎得主Yoshua Bengio、Geoffrey Hinton和姚期智等業(yè)內(nèi)專家在《Science》期刊上刊文，呼吁世界各國領(lǐng)導(dǎo)人采取更有力的行動應(yīng)對AI風(fēng)險，警告AI的無節(jié)制發(fā)展可能導(dǎo)致生命和生物圈的大規(guī)模損失。

作為中國的大模型公司，智譜AI也簽署了前沿人工智能安全承諾。智譜AI在頂會ICLR2024上分享了他們的AI安全具體做法，強調(diào)了超級對齊技術(shù)在提升大模型安全性方面的重要性。智譜AI透露，其GLM-4V模型內(nèi)置了安全措施，以防止有害或不道德行為，保護(hù)用戶隱私和數(shù)據(jù)安全。

5月22日，歐盟理事會正式批準(zhǔn)了《人工智能法案》（AI Act），這是全球首部AI全面監(jiān)管法規(guī)，將于下月生效。這部具有里程碑意義的法案采用“基于風(fēng)險”的方法，規(guī)定對社會造成更高風(fēng)險的AI技術(shù)需要遵守更嚴(yán)格的規(guī)則，對違反規(guī)定的公司將處以嚴(yán)厲罰款。

比利時數(shù)字化大臣Mathieu Michel表示，這一法案是世界上第一部此類法規(guī)，旨在解決全球性技術(shù)挑戰(zhàn)，同時為社會和經(jīng)濟(jì)創(chuàng)造機遇。

總結(jié)

AI安全問題正在全球范圍內(nèi)引起廣泛關(guān)注。從企業(yè)到政府，各方都在采取措施預(yù)防和解決AI安全問題。OpenAI、谷歌、微軟和智譜AI等公司的前沿人工智能安全承諾，以及歐盟《人工智能法案》的出臺，都是為確保AI技術(shù)安全發(fā)展的重要舉措。隨著AI技術(shù)的不斷進(jìn)步，確保其安全性和透明度將是各方共同努力的方向。

以上就是關(guān)于【OpenAI、微軟、智譜AI等全球16家公司共同簽署前沿人工智能安全承諾】的相關(guān)內(nèi)容，希望對大家有幫助！

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險自擔(dān)。 如有侵權(quán)請聯(lián)系刪除！