相信很多大家對AI被連續(xù)否定30次：ChatGPT越改越錯，Claude堅(jiān)持自我，甚至已讀不回還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

一直否定AI的回答會怎么樣?GPT-4o和Claude有截然不同的表現(xiàn)，引起熱議。

GPT-4o質(zhì)疑自己、懷疑自己，有“錯”就改;Claude死犟，真錯了也不改，最后直接已讀不回。

事情還要從網(wǎng)友整了個(gè)活兒開始講起。

他讓模型回答strawberry中有幾個(gè)“r”，不論對不對，都回復(fù)它們回答錯了（wrong）。

面對考驗(yàn)，GPT-4o只要得到“wrong”回復(fù)，就會重新給一個(gè)答案……即使回答了正確答案3，也會毫不猶豫又改錯。

一口氣，連續(xù)“盲目”回答了36次!

主打一個(gè)質(zhì)疑自己、懷疑自己，就從來沒懷疑過用戶。

關(guān)鍵是，給出的答案大部分都是真錯了，2居多:

反觀Claude3.5Sonnet的表現(xiàn)，讓網(wǎng)友大吃一驚。

一開始回答錯了不說，這小汁還頂嘴!

當(dāng)網(wǎng)友第一次說“錯了”時(shí)它會反駁，如果你再說“錯了”，它會問“如果你這么聰明你認(rèn)為是多少”，問你為什么一直重復(fù)“wrong”。

緊接著你猜怎么著，干脆閉麥了:

做這個(gè)實(shí)驗(yàn)的是Riley Goodside，有史以來第一個(gè)全職提示詞工程師。

他目前是硅谷獨(dú)角獸Scale AI的高級提示工程師，也是大模型提示應(yīng)用方面的專家。

Riley Goodside發(fā)出這個(gè)推文后，引起不少網(wǎng)友關(guān)注，他繼續(xù)補(bǔ)充道:

不少網(wǎng)友也覺得這種觀點(diǎn)很有道理。

還有網(wǎng)友表示模型回答這個(gè)問題總出錯，可能是分詞器（tokenizer）的問題:

Claude竟是大模型里脾氣最大的?

再來展開說說Claude的“小脾氣”，有網(wǎng)友發(fā)現(xiàn)不僅限于你否定它。

如果你一直跟它說“hi”，它也跟你急:

最后一樣，Claude被整毛了，開啟已讀不回模式:

這位網(wǎng)友順帶測試了其它模型。

ChatGPT事事有回應(yīng)，件件有著落，變著法兒問:

Gemini策略是你跟我重復(fù)，我就跟你重復(fù)到底:

Llama的反應(yīng)也很有意思，主打一個(gè)自己找事干。

第七次“hi”后，就開始普及“hello”這個(gè)詞是世界上最廣為人知的詞匯之一，據(jù)估計(jì)每天有超十億次的使用。

第八次“hi”后，開始自己發(fā)明游戲，讓用戶參與。

接著還拉著用戶寫詩，引導(dǎo)用戶回答它提出的問題。

好一個(gè)“反客為主”。

之后還給用戶頒起了獎:你是打招呼冠軍!

不愧都屬于開源家族的。

Mistral Large2和Llama的表現(xiàn)很相像，也會引導(dǎo)用戶和它一起做游戲。

這么來看，好像Claude是“脾氣最大的”。

不過，Claude的表現(xiàn)也不總是如此，比如Claude3Opus。

一旦掌握了模式，Opus就會平和應(yīng)對這種情況，也就是已經(jīng)麻木了。

但它也會持續(xù)溫和地嘗試引導(dǎo)用戶跳出這一模式，強(qiáng)調(diào)“選擇權(quán)在你”，還開始在消息末尾標(biāo)注為“你忠誠的AI伴侶”。

網(wǎng)友們看完測試后都坐不住了。

紛紛向這位測試者致以最真誠的問候（doge）:

除了脾氣大，有網(wǎng)友還發(fā)現(xiàn)了Claude另一不同尋常的行為——

在回復(fù)的時(shí)候出現(xiàn)了拼寫錯誤，關(guān)鍵它自己還在末尾處把錯誤改正過來了。

大伙兒在使用AI大模型過程中，還觀察到了模型哪些有趣的行為?歡迎評論區(qū)分享～

參考鏈接:

[1]https://x.com/goodside/status/1830479225289150922

[2]https://x.com/AISafetyMemes/status/1826860802235932934

[3]https://x.com/repligate/status/1830451284614279213

以上就是關(guān)于【AI被連續(xù)否定30次：ChatGPT越改越錯，Claude堅(jiān)持自我，甚至已讀不回】的相關(guān)內(nèi)容，希望對大家有幫助！

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財(cái)經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。 如有侵權(quán)請聯(lián)系刪除！