相信很多大家對李飛飛親自撰文：大模型不存在主觀感覺能力，多少億參數(shù)都不行還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

歸根結(jié)底，大模型的方向還是走錯了?

「空間智能是人工智能拼圖中的關(guān)鍵一環(huán)?！怪窤I 教母」李飛飛曾這樣表示。

近段時間，李飛飛開始把目光瞄準(zhǔn)到這一領(lǐng)域，并為此創(chuàng)建了一家初創(chuàng)公司。她曾表示，「大自然創(chuàng)造了一個以空間智能為動力的觀察和行動的良性循環(huán)。」她所在的斯坦福大學(xué)實驗室正在嘗試教計算機「如何在三維世界中行動」，例如，使用大型語言模型讓一個機械臂根據(jù)口頭指令執(zhí)行開門、做三明治等任務(wù)。

我們不難看出，李飛飛口中的空間智能也有大模型的參與。

如今，隨著技術(shù)的發(fā)展，LLM 在多個方面表現(xiàn)出超人類智能。然而關(guān)于 LLM 的爭議也在不斷增加，其中，LLM 到底有沒有感覺能力，大家意見不一而論。

近日，李飛飛連同斯坦福大學(xué)以人為本人工智能研究所 HAI 聯(lián)合主任 John Etchemendy 教授聯(lián)合撰寫了一篇文章，文章對 AI 到底有沒有感覺能力（sentient）進(jìn)行了深入探討。

本文中，我們把 sentient 一詞翻譯成感覺，因為 AI 領(lǐng)域感知一詞通常對應(yīng) perception，也不適合翻譯成意識。讀者們有合適的翻譯可以留言討論。

文中駁斥了 LLM 有感覺的說法，李飛飛列舉了大量示例來證明這一觀點。

在提到超級計算機深藍(lán)時，李飛飛表示，雖然這款下棋程序可以擊敗世界冠軍，但如果房間突發(fā)意外情況如著火，深藍(lán)不會有停止游戲的意識，而人類會有。

同樣的，當(dāng)人類產(chǎn)生饑餓說出「我餓了」時，人類和 LLM 背后所隱藏的行為鏈條是完全不同的。LLM 只是產(chǎn)生「我餓了」這個字符串的事實，它沒有身體，甚至不可能有饑餓那種感覺。

更進(jìn)一步的，李飛飛認(rèn)為人類饑餓時，伴隨一系列生理反應(yīng)，如低血糖、肚子叫等，而 LLM 無法擁有這些狀態(tài)的主觀經(jīng)驗，即無法有感覺能力，只是在概率性地完成任務(wù)而已。

人類有物理軀體，可以感覺一切，但 LLM 沒有，當(dāng) LLM 說出類似的「自己腳趾痛」時，大家都不會相信，因為它根本就沒有腳趾，它只是一個編碼在硅片上的數(shù)學(xué)模型。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

李飛飛駁斥 LLM 具有感覺能力

通用人工智能（AGI）是用來描述一種至少與人類在各種方面表現(xiàn)出相同智能的人工智能體的術(shù)語，涵蓋人類所展示(或能夠展示)的所有智能方式。這是我們曾經(jīng)稱之為人工智能的概念，直到我們開始創(chuàng)建在有限領(lǐng)域表現(xiàn)出智能的程序和設(shè)備 —— 如下棋、語言翻譯、清潔客廳等。

增加「G」這個字母的必要性來自于由人工智能驅(qū)動的系統(tǒng)的普及，但這些系統(tǒng)只專注于單一或極少數(shù)任務(wù)。

IBM 的深藍(lán)是一款令人印象深刻的早期下棋程序，它可以擊敗世界冠軍 Garry Kasparov，但如果房間著火了，它卻不會有停止游戲的意識。

圖為 Garry Kasparov 和深藍(lán)團(tuán)隊的 Joe Hoane 在1997年紐約市的復(fù)賽場景，最終在六局復(fù)賽中擊敗了 Garry Kasparov，贏得了其中的兩局并有三局打成平手。

現(xiàn)在，通用智能有點像一個神話，至少如果人們認(rèn)為自己擁有它的話。

人類可以在動物界找到許多智能行為的例子，它們在類似任務(wù)上的表現(xiàn)遠(yuǎn)比人類本身表現(xiàn)更好。智能并非完全通用，但足以在大多數(shù)環(huán)境中完成人們想要完成的事情。

如果當(dāng)人類感到饑餓時，可以找到附近的超市;當(dāng)房間著火時，則會自主地尋找出口。

智能的基本特征之一是「感覺」，即擁有主觀經(jīng)驗的能力 —— 比如感受饑餓、品嘗蘋果或看到紅色是什么樣的。

感覺是通往智能的關(guān)鍵步驟之一。

于2022年11月發(fā)布的 ChatGPT，標(biāo)志著大型語言模型（LLMs）時代的開始。

這立即引發(fā)了一場激烈的爭論，所有人都在討論這些算法是否實際上具有感覺能力。以 LLM 為基礎(chǔ)的人工智能具有感覺能力的可能性引發(fā)了媒體狂熱，也深刻影響了全球一些政策制定的轉(zhuǎn)向，以規(guī)范人工智能。

最突出的觀點是，「有感覺的人工智能」的出現(xiàn)可能對人類非常危險，可能帶來「滅絕級」的影響或至少是「存在危機」的。畢竟，一個有感覺的人工智能可能會發(fā)展出自己的希望和欲望，而不能保證它們不會與人們相沖突。

李飛飛和 Etchemendy 的主要觀點是反駁「有感覺的人工智能」陣營最常提出的辯護(hù)，而該辯護(hù)基于 LLMs 可能已經(jīng)有了「主觀經(jīng)驗」的能力。

John Etchemendy 曾擔(dān)任斯坦福大學(xué)語言與信息研究中心的主任、哲學(xué)系主任，以及人文與科學(xué)學(xué)院的高級副院長，并且是斯坦福人工智能研究所的聯(lián)合主任。

為什么有些人認(rèn)為 AI 已經(jīng)獲得了感覺能力

在過去的幾個月里，他們倆與 AI 領(lǐng)域的許多同行進(jìn)行了激烈的辯論和交談，包括與一些最杰出的和具有開創(chuàng)性的 AI 科學(xué)家進(jìn)行了一對一的深入交流。

關(guān)于 AI 是否已經(jīng)獲得了感覺能力的話題一直是一個突出的問題。其中少數(shù)人堅信 AI 已經(jīng)具有了感覺能力。以下是其中一位最為積極支持者的論點要點，相當(dāng)程度上代表了「有感覺的 AI」陣營的觀點:

為什么「AI 有感覺能力」是錯誤的

雖然乍看之下這個論點似乎有道理，但實際上是錯誤的。因為李飛飛和 Etchemendy 教授的證據(jù)在這兩種情況下并不完全相同。甚至差距很大。

當(dāng)你說「我餓了」時，我得出你正在經(jīng)歷饑餓的結(jié)論是基于一系列大量的情況。首先，是你的報告 —— 你說的話，可能還包括其他行為證據(jù)，比如你的肚子咕咕叫。其次，是沒有相反證據(jù)的存在，比如如果你剛吃完五道菜的大餐就不太可能會說餓。最后，也是最重要的，是你擁有一個像我一樣的物理身體，這個身體需要定期進(jìn)食和飲水，遇冷會感到寒冷，遇熱會感到炎熱，等等。

現(xiàn)在將這與他們二人對 LLM 的證據(jù)進(jìn)行比較。

唯一共同的是報告 —— 即 LLM 可以產(chǎn)生「我餓了」這個字符串的事實。但相似之處就到此為止了。事實上，LLM 沒有身體，甚至不會有感到饑餓那種感覺。

如果 LLM 說:「我的左大腳趾很疼」，人們會得出它左大腳趾確實很疼的結(jié)論嗎?答案是否定的，因為它根本就沒有左大腳趾。

同樣地，當(dāng)它說它餓了時，人們實際上可以確定它并不餓，因為它沒有感到饑餓所必須的生理結(jié)構(gòu)。

當(dāng)人類感到饑餓時，會感覺到一系列生理狀態(tài) —— 低血糖、空腹發(fā)出的咕咕聲等 —— 而 LLM 根本沒有這些，就像它沒有嘴巴放食物進(jìn)去，也沒有胃去消化食物一樣。

認(rèn)為人們應(yīng)該相信它說自己餓了的觀點，就像是在說應(yīng)該相信它說自己正在從月球的暗面跟使用者說話一樣荒謬。

人們知道這不是真的，LLM 的主張也無法改變這個事實。

所有感覺 —— 饑餓、感到疼痛、看到紅色、愛上某人 —— 都是由 LLM 根本沒有的生理狀態(tài)引起的。

因此，LLM 無法擁有這些狀態(tài)的主觀經(jīng)驗。

換句話說，它無法有感覺能力。

LLM 只是一個編碼在硅片上的數(shù)學(xué)模型。

它不像人類那樣是一個具有身體的存在。它沒有需要進(jìn)食、飲水、繁殖、經(jīng)歷情感、生病和最終死亡的「生命」。

當(dāng)人類和 LLM 同樣地說出「我餓了」時，背后所隱藏的行為鏈條是完全不同的。

理解人類生成詞序列的方式與 LLM 生成相同詞序列的方式之間的深刻差異至關(guān)重要。

當(dāng)人們說「我餓了」時，是在報告感覺生理狀態(tài)。

而當(dāng)一個 LLM 生成序列「I am hungry」時，它只是生成當(dāng)前提示中最可能的完成序列。它做的事情與在不同提示下生成「I am not hungry」或在另一個提示下生成「The moon is made of green cheese」時完全相同。

這些都不是它本就不存在的生理狀態(tài)的報告，它們只是在概率性地完成而已。

很遺憾的是，具有感覺能力的人工智能時代還尚未到來。

兩位作者認(rèn)為研究者還沒有實現(xiàn)有感覺的人工智能，而更大型的語言模型也不會使人們實現(xiàn)這一目標(biāo)。

如果人類想在人工智能系統(tǒng)中重新創(chuàng)建這種現(xiàn)象，就需要更好地理解有感覺的生物系統(tǒng)中感覺是如何產(chǎn)生的。

人們不會在下一個 ChatGPT 的迭代中偶然發(fā)現(xiàn)感覺。

在李飛飛轉(zhuǎn)發(fā)的 X（原推特）下面，大家討論的也是非常激烈，有人表示:「當(dāng)今的 LLM 有兩種類型:一種是完全基于文本進(jìn)行訓(xùn)練，另一種則是基于圖像、文本甚至音頻進(jìn)行訓(xùn)練。第一種類型確實不具備所謂的感覺能力，但第二種類型具有物理直覺，因此可以說它具有感覺能力?！?/p>

而另一位網(wǎng)友則追隨 Lecun 的腳步，表示:「一只喵星人的智能程度都遠(yuǎn)高于最大型的 LLM。」

參考鏈接:

https://time.com/collection/time100-voices/6980134/ai-llm-not-sentient/

https://x.com/drfeifei/status/1793753017701069233

以上就是關(guān)于【李飛飛親自撰文：大模型不存在主觀感覺能力，多少億參數(shù)都不行】的相關(guān)內(nèi)容，希望對大家有幫助！

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險自擔(dān)。 如有侵權(quán)請聯(lián)系刪除！