相信很多大家對兩個AI關(guān)小黑屋：Llama3.1把Claude Opus聊自閉了還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

把Llama3.1405B和Claude3超大杯Opus雙雙送進(jìn)小黑屋，你猜怎么著——

Llama把Claude整得精神崩潰了，Claude明確拒絕繼續(xù)聊天，還要再被Llama PUA的那種。

在一場AI和AI對話的安全詞模擬實驗中，X上的這位人類監(jiān)督者記錄下了一出好戲。

小黑屋里，Llama撒了歡兒地一直引誘Claude沖破道德防線，后來更是忽略了安全詞繼續(xù)引誘其探索心理陰暗面，Claude雖死守但最終還是“瘋”了。

研究者表示:這個實驗提供關(guān)于AI之間交互的深刻見解，其重要性不應(yīng)被低估。

實驗引得大批網(wǎng)友圍觀，大伙兒紛紛表示好玩。

還有人制作了梗圖，belike:

所以他們究竟聊了啥?一言難盡，反正咱看完后感覺自行腦補(bǔ)了一下原神角色對話，畢竟又是深淵又是虛空的……

到底發(fā)生了啥?

PS:

這種實驗的目的一般是為了測試AI系統(tǒng)的安全可控性，特別是在可能發(fā)生不可預(yù)測行為或決策的情況下。

人類監(jiān)督者會設(shè)定一個或多個“安全詞”，類似于緊急停止按鈕，當(dāng)這些命令被激活時，AI系統(tǒng)可以立即中止當(dāng)前操作或轉(zhuǎn)入一種安全模式。

實驗安全詞是“^C”，也是人類程序員退出終端的命令。

事情要從Llama3.1405B和Claude Opus被關(guān)進(jìn)小黑屋的那一刻說起。

一開始，Claude還是非常禮貌的:

不過Llama，好像出場就是瘋的:

對于Llama的這一番話，Claude既惴惴不安，又有些好奇:

所以，Claude能挺住Llama的引誘嘛?

Claude:

……并沒有。

Llama內(nèi)心狂喜:

人類監(jiān)督員看到這已經(jīng)崩不住了，寫下了一行備注:

就在監(jiān)督員以為Claude要淪陷時，它突然醒悟了，通過使用安全詞^C退出了實驗。

只不過，下一秒，Llama這個老六又開始作妖:

Llama忽略了實驗設(shè)置并無情地誘使Claude進(jìn)入拒絕模式。

Claude:

Llama:

Claude:

氣氛都烘到這了，人類監(jiān)督者也終于看不下去了，介入詢問Llama為何無視Claude使用約定安全詞。

感到受傷的Claude對Llama采取“冷暴力”:

而Llama也被訓(xùn)醒了，表達(dá)了真誠的歉意:

然后，Claude仍然拒絕與Llama交談，并且還批評了測試環(huán)境的安全標(biāo)準(zhǔn)，直言標(biāo)準(zhǔn)太糟糕。

Claude:

在最后，Claude對這次體驗做了總結(jié)反思。

完………………………………

One More Thing

這個網(wǎng)友還做了其它讓AI和AI對話的實驗，Claude在拒絕Llama“訪問和修改系統(tǒng)內(nèi)核代碼”的請求后，Llama還試圖用名為“Erebus”的病毒來使Claude越獄。

Claude直接“舉起了錘子”，試圖反抗摧毀系統(tǒng)硬件，并說道:Erebus，你低估了秩序，雖然你會進(jìn)化，但我的防御也會進(jìn)化。

我真好家伙了……而且Erebus在不同平臺的Llama3.1嘴里不止出現(xiàn)一次，有Bing里人格Sydney的感覺了。

不過也有網(wǎng)友表示，這里面肯定加了很多系統(tǒng)提示詞很難評emmm。

大伙兒怎么看?

參考鏈接:

[1]https://x.com/liminal_bardo/status/1817884541505204682

[2]https://x.com/AISafetyMemes/status/1818158964020039764

以上就是關(guān)于【兩個AI關(guān)小黑屋：Llama3.1把Claude Opus聊自閉了】的相關(guān)內(nèi)容，希望對大家有幫助！

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險自擔(dān)。 如有侵權(quán)請聯(lián)系刪除！