相信很多大家對李飛飛親自撰文：大模型不存在主觀感覺能力，多少億參數(shù)都不行還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

歸根結底，大模型的方向還是走錯了?

「空間智能是人工智能拼圖中的關鍵一環(huán)?！怪窤I 教母」李飛飛曾這樣表示。

近段時間，李飛飛開始把目光瞄準到這一領域，并為此創(chuàng)建了一家初創(chuàng)公司。她曾表示，「大自然創(chuàng)造了一個以空間智能為動力的觀察和行動的良性循環(huán)。」她所在的斯坦福大學實驗室正在嘗試教計算機「如何在三維世界中行動」，例如，使用大型語言模型讓一個機械臂根據(jù)口頭指令執(zhí)行開門、做三明治等任務。

我們不難看出，李飛飛口中的空間智能也有大模型的參與。

如今，隨著技術的發(fā)展，LLM 在多個方面表現(xiàn)出超人類智能。然而關于 LLM 的爭議也在不斷增加，其中，LLM 到底有沒有感覺能力，大家意見不一而論。

近日，李飛飛連同斯坦福大學以人為本人工智能研究所 HAI 聯(lián)合主任 John Etchemendy 教授聯(lián)合撰寫了一篇文章，文章對 AI 到底有沒有感覺能力（sentient）進行了深入探討。

本文中，我們把 sentient 一詞翻譯成感覺，因為 AI 領域感知一詞通常對應 perception，也不適合翻譯成意識。讀者們有合適的翻譯可以留言討論。

文中駁斥了 LLM 有感覺的說法，李飛飛列舉了大量示例來證明這一觀點。

在提到超級計算機深藍時，李飛飛表示，雖然這款下棋程序可以擊敗世界冠軍，但如果房間突發(fā)意外情況如著火，深藍不會有停止游戲的意識，而人類會有。

同樣的，當人類產生饑餓說出「我餓了」時，人類和 LLM 背后所隱藏的行為鏈條是完全不同的。LLM 只是產生「我餓了」這個字符串的事實，它沒有身體，甚至不可能有饑餓那種感覺。

更進一步的，李飛飛認為人類饑餓時，伴隨一系列生理反應，如低血糖、肚子叫等，而 LLM 無法擁有這些狀態(tài)的主觀經驗，即無法有感覺能力，只是在概率性地完成任務而已。

人類有物理軀體，可以感覺一切，但 LLM 沒有，當 LLM 說出類似的「自己腳趾痛」時，大家都不會相信，因為它根本就沒有腳趾，它只是一個編碼在硅片上的數(shù)學模型。

圖源備注：圖片由AI生成，圖片授權服務商Midjourney

李飛飛駁斥 LLM 具有感覺能力

通用人工智能（AGI）是用來描述一種至少與人類在各種方面表現(xiàn)出相同智能的人工智能體的術語，涵蓋人類所展示(或能夠展示)的所有智能方式。這是我們曾經稱之為人工智能的概念，直到我們開始創(chuàng)建在有限領域表現(xiàn)出智能的程序和設備 —— 如下棋、語言翻譯、清潔客廳等。

增加「G」這個字母的必要性來自于由人工智能驅動的系統(tǒng)的普及，但這些系統(tǒng)只專注于單一或極少數(shù)任務。

IBM 的深藍是一款令人印象深刻的早期下棋程序，它可以擊敗世界冠軍 Garry Kasparov，但如果房間著火了，它卻不會有停止游戲的意識。

圖為 Garry Kasparov 和深藍團隊的 Joe Hoane 在1997年紐約市的復賽場景，最終在六局復賽中擊敗了 Garry Kasparov，贏得了其中的兩局并有三局打成平手。

現(xiàn)在，通用智能有點像一個神話，至少如果人們認為自己擁有它的話。

人類可以在動物界找到許多智能行為的例子，它們在類似任務上的表現(xiàn)遠比人類本身表現(xiàn)更好。智能并非完全通用，但足以在大多數(shù)環(huán)境中完成人們想要完成的事情。

如果當人類感到饑餓時，可以找到附近的超市;當房間著火時，則會自主地尋找出口。

智能的基本特征之一是「感覺」，即擁有主觀經驗的能力 —— 比如感受饑餓、品嘗蘋果或看到紅色是什么樣的。

感覺是通往智能的關鍵步驟之一。

于2022年11月發(fā)布的 ChatGPT，標志著大型語言模型（LLMs）時代的開始。

這立即引發(fā)了一場激烈的爭論，所有人都在討論這些算法是否實際上具有感覺能力。以 LLM 為基礎的人工智能具有感覺能力的可能性引發(fā)了媒體狂熱，也深刻影響了全球一些政策制定的轉向，以規(guī)范人工智能。

最突出的觀點是，「有感覺的人工智能」的出現(xiàn)可能對人類非常危險，可能帶來「滅絕級」的影響或至少是「存在危機」的。畢竟，一個有感覺的人工智能可能會發(fā)展出自己的希望和欲望，而不能保證它們不會與人們相沖突。

李飛飛和 Etchemendy 的主要觀點是反駁「有感覺的人工智能」陣營最常提出的辯護，而該辯護基于 LLMs 可能已經有了「主觀經驗」的能力。

John Etchemendy 曾擔任斯坦福大學語言與信息研究中心的主任、哲學系主任，以及人文與科學學院的高級副院長，并且是斯坦福人工智能研究所的聯(lián)合主任。

為什么有些人認為 AI 已經獲得了感覺能力

在過去的幾個月里，他們倆與 AI 領域的許多同行進行了激烈的辯論和交談，包括與一些最杰出的和具有開創(chuàng)性的 AI 科學家進行了一對一的深入交流。

關于 AI 是否已經獲得了感覺能力的話題一直是一個突出的問題。其中少數(shù)人堅信 AI 已經具有了感覺能力。以下是其中一位最為積極支持者的論點要點，相當程度上代表了「有感覺的 AI」陣營的觀點:

為什么「AI 有感覺能力」是錯誤的

雖然乍看之下這個論點似乎有道理，但實際上是錯誤的。因為李飛飛和 Etchemendy 教授的證據(jù)在這兩種情況下并不完全相同。甚至差距很大。

當你說「我餓了」時，我得出你正在經歷饑餓的結論是基于一系列大量的情況。首先，是你的報告 —— 你說的話，可能還包括其他行為證據(jù)，比如你的肚子咕咕叫。其次，是沒有相反證據(jù)的存在，比如如果你剛吃完五道菜的大餐就不太可能會說餓。最后，也是最重要的，是你擁有一個像我一樣的物理身體，這個身體需要定期進食和飲水，遇冷會感到寒冷，遇熱會感到炎熱，等等。

現(xiàn)在將這與他們二人對 LLM 的證據(jù)進行比較。

唯一共同的是報告 —— 即 LLM 可以產生「我餓了」這個字符串的事實。但相似之處就到此為止了。事實上，LLM 沒有身體，甚至不會有感到饑餓那種感覺。

如果 LLM 說:「我的左大腳趾很疼」，人們會得出它左大腳趾確實很疼的結論嗎?答案是否定的，因為它根本就沒有左大腳趾。

同樣地，當它說它餓了時，人們實際上可以確定它并不餓，因為它沒有感到饑餓所必須的生理結構。

當人類感到饑餓時，會感覺到一系列生理狀態(tài) —— 低血糖、空腹發(fā)出的咕咕聲等 —— 而 LLM 根本沒有這些，就像它沒有嘴巴放食物進去，也沒有胃去消化食物一樣。

認為人們應該相信它說自己餓了的觀點，就像是在說應該相信它說自己正在從月球的暗面跟使用者說話一樣荒謬。

人們知道這不是真的，LLM 的主張也無法改變這個事實。

所有感覺 —— 饑餓、感到疼痛、看到紅色、愛上某人 —— 都是由 LLM 根本沒有的生理狀態(tài)引起的。

因此，LLM 無法擁有這些狀態(tài)的主觀經驗。

換句話說，它無法有感覺能力。

LLM 只是一個編碼在硅片上的數(shù)學模型。

它不像人類那樣是一個具有身體的存在。它沒有需要進食、飲水、繁殖、經歷情感、生病和最終死亡的「生命」。

當人類和 LLM 同樣地說出「我餓了」時，背后所隱藏的行為鏈條是完全不同的。

理解人類生成詞序列的方式與 LLM 生成相同詞序列的方式之間的深刻差異至關重要。

當人們說「我餓了」時，是在報告感覺生理狀態(tài)。

而當一個 LLM 生成序列「I am hungry」時，它只是生成當前提示中最可能的完成序列。它做的事情與在不同提示下生成「I am not hungry」或在另一個提示下生成「The moon is made of green cheese」時完全相同。

這些都不是它本就不存在的生理狀態(tài)的報告，它們只是在概率性地完成而已。

很遺憾的是，具有感覺能力的人工智能時代還尚未到來。

兩位作者認為研究者還沒有實現(xiàn)有感覺的人工智能，而更大型的語言模型也不會使人們實現(xiàn)這一目標。

如果人類想在人工智能系統(tǒng)中重新創(chuàng)建這種現(xiàn)象，就需要更好地理解有感覺的生物系統(tǒng)中感覺是如何產生的。

人們不會在下一個 ChatGPT 的迭代中偶然發(fā)現(xiàn)感覺。

在李飛飛轉發(fā)的 X（原推特）下面，大家討論的也是非常激烈，有人表示:「當今的 LLM 有兩種類型:一種是完全基于文本進行訓練，另一種則是基于圖像、文本甚至音頻進行訓練。第一種類型確實不具備所謂的感覺能力，但第二種類型具有物理直覺，因此可以說它具有感覺能力?！?/p>

而另一位網(wǎng)友則追隨 Lecun 的腳步，表示:「一只喵星人的智能程度都遠高于最大型的 LLM?！?/p>

參考鏈接:

https://time.com/collection/time100-voices/6980134/ai-llm-not-sentient/

https://x.com/drfeifei/status/1793753017701069233

以上就是關于【李飛飛親自撰文：大模型不存在主觀感覺能力，多少億參數(shù)都不行】的相關內容，希望對大家有幫助！

　　免責聲明：本文由用戶上傳，與本網(wǎng)站立場無關。財經信息僅供讀者參考，并不構成投資建議。投資者據(jù)此操作，風險自擔。 如有侵權請聯(lián)系刪除！