乾貨：谷歌首席科學家沙納漢演講全文

原文：熊法通則

北京時間2026年5月22日晚，最懂哲學的谷歌DeepMind首席科學家沙納漢（Murray Shanahan）在為期兩天的倫敦大學AI與哲學國際會議上做了閉幕主旨演講，題目是上圖中的那個：如果大語言模型是"奇異的心智類實體"，那麼它們與心智的相似程度有多高？

我之前研讀過沙納漢。這個"奇異的心智類實體"，就是他對AI的叫法，就像某些人對某些"不明飛行物"的叫法那樣。

他的演講內容很豐富，概括來說，基本有這些方面：

摘要：基於維特根斯坦"意義即使用"的哲學框架，他探討了大語言模型（LLM）在理解、信念、代理及能動性、自我及意識等心智屬性上的適用性，分析了多模態與具身化對概念演化的影響，並深入討論了模型身份認同的奇異性。

一、理解與信念的適用性分析

針對 LLM 是否具備"理解"信念"的問題，發言採用了維特根斯坦式的語言遊戲分析方法，探討了日常使用與哲學嚴謹性之間的張力：

1. "理解"的語言遊戲

• 日常使用的自然性：在日常互動中，人們很難避免使用"理解"一詞來描述LLM 的行為。例如，當模型根據用戶指令精確格式化 LaTeX 條目或修正特定字段時，使用"是完全自然的語言實踐。

• "真的理解"的深層探究：當追問"它真的理解嗎？"時，這通常意味著需要探究其內部工作機制。例如， 36+59 分解為約 6+9 的組合）來完成加法，這雖然不同於人類算法，但確實是一種有效的計算過程，從而支持了"的適用性。

2. "信念"的歸因與限制

• 意向立場（Intentional Stance）的應用：丹尼特（ LLM 行為時非常有效，類似於我們解釋國際象棋程序或動物行為（如狗追貓）時使用信念和欲望的術語。

• 戴維森式（Davidsonian）的保留：戴維森認為，擁有信念需要擁有"的概念，而這通常依賴於語言。對於 LLM，雖然行為上類似，但因其缺乏與世界（"信念"一詞應持謹慎態度。

• 多模態與工具使用的演進：隨著 LLM 整合多模態感知、工具調用（如聯網搜索驗證事實）及具身機器人技術，它們開始具備對外部世界的某種"，這使得"信念

二、能動性、自我與意識

會議進一步探討了更具爭議性的心智屬性，指出了 LLM 在這些維度上的根本性差異與奇異性：

1. 能動性（Agency）的界定

• 技術定義與哲學定義：AI領域通常採用羅素（Russell）和諾維格（Norvig）的寬泛定義（感知環境並通過執行器行動），據此

• 代理身份（Agent Identity）的模糊性：在討論"代理的身份標準是什麼？

2. "自我"的奇異性與碎片化

• 自我位置的模糊性：LLM 中的"可能指代底層的權重集合、服務數千用戶的部署模型、特定對話實例，甚至是對話上下文窗口本身，且這種指代可能在對話中漂移。

• 角色扮演與疊加態：LLM 更像是一個演員，在疊加態中扮演多種角色。其"並非單一的穩定身份，而是可能角色的分佈，且隨著對話分支（Editing）而不斷變化。

• 短暫存在的"蜉蝣"：LLM 的自我是短暫且不連續的。當對話暫停時，計算停止，自我也隨之消失；當對話恢復時，自我被重新實例化。這導致了一種類似於"或"蜂群

3. 意識（Consciousness）的哲學困境

• 笛卡爾式二元論的遺留：關於意識的討論往往陷入笛卡爾式的二元論陷阱，即認為意識是某種私密的、內在的實體。

• 維特根斯坦的消解：維特根斯坦的"私人語言論證"試圖消解這種二元論。他認為，感覺（"某種東西"，也不是"，而是語言遊戲的一部分，其意義在於公共使用。

• 工程化相遇的可能性：與其追問 LLM 是否有意識，不如探討我們能否設計一種與它的"（Encounter），以及我們的意識語言如何適應這種奇異的實體。

三、多模態與具身化的影響

針對 LLM 缺乏具身化（Embodiment）的批評，會議討論了多模態模型的發展方向：

1. 多模態的局限性

• 感官豐富性的提升：多模態模型（如視頻輸入）提供了更豐富的感官輸入，使其更接近人類的感知模式，這有助於縮小與人類在"理解"上的差距。

• 虛擬具身化（Virtual Embodiment）：在遊戲或虛擬環境中，"虛擬具身化"，即在時空擴展的世界中移動和互動，這比純文本互動更接近人類的具身經驗。

2. 具身化的哲學意義

• 自我感（Sense of Self）的缺失：人類的自我感深深植根於具身化，包括生物代謝、內感受（ LLM 缺乏這種深度的具身基礎，因此難以產生類似人類的自我感。

• 身份穩定性的來源：人類的身份穩定性很大程度上依賴於身體的連續性。對於LLM 而言，引入持久記憶（Persistent Memory）和長期代理行為，可能有助於建立更穩定的身份認同，減少其"和"蜉蝣

以下是沙納漢主旨演講全文：

我希望大家都能聽見我的聲音。聲音還可以嗎？挺好？好的。那么，我演講的題目是...... 是的，這個題目是帶有假設性的（"假設性

那麼，是的，接著是：它們是"外來的類心靈實體

但我們正在盡最大努力學會與它們對話，這就是我要談論的短語。我將它們稱為"外來的類心靈人造物"（

首先需要確立的一點是，無論是哪種大語言模型，它們與我們都非常不同，它們不是人類。

這裡有一個簡單的對比表格。人類是"具身的embodied），生活在現實世界中，並與其他語言使用者共享這個世界。

我們通過與世界的互動來獲取知識，我們用語言來促進人類的集體事業，而且我們擁有一個單一、統一的自我。

------我這麼說當然不是指它們是無形的虛無，或者它們沒有運行的物理硬體。

它們當然有物理載體，但它們沒有一個現存的、單一的、作為感知和行動核心的物理實體。這就是我所說的"。在這個意義上它們沒有具身。它們並不像我們那樣生活在一個共享的世界中，它們對語言的學習是基於語言的統計模型，是通過隨機梯度下降（

它們的優化目標是"下一標記預測next token prediction）。它們模仿人類語言，本質上是通過預測下一個標記來實現的。而且，它們並沒有一個單一、統一的自我，而是非常支持"角色扮演"（

它們確實與人類截然不同。當然，它們確實在"說話

我將探究將這些心理學詞彙應用到大語言模型上是否合理。為此，我將對一系列概念進行闡述。

比如"理解"（"主體性"（"推理"（------"推理"部分我今天就不展開了，因為時間有限，講多了大家也會覺得枯燥。接著我會深入探討"（self）和"（consciousness）。我整個研究的哲學背景，或者說我參與的這個更大的哲學項目，在很大程度上是維特根斯坦式的，我深受維特根斯坦的影響。

這裡有一句很多人都熟知的名言，出自《哲學研究》的第一部分，這是維特根斯坦後期的作品：'意義'這個詞的場景------一個詞的意義就是它在語言中的用法。

這句話濃縮了維特根斯坦看待意義的方法。它經常被簡寫成"意義即用法"意義就是某某東西"對於很大一類使用'這個詞的場景"。這個簡單的規定同樣也適用於它自身，他也強調了"。

基本上，我感興趣的是去追問我們是如何使用這些詞彙的------比如"、"信念belief）、"主體性

那麼，讓我先給大家做個簡單的預告。接下來會有很多類似的幻燈片。首先是"理解

在這裡，我非常傾向於採取維特根斯坦的立場。也就是說，不要去問

回到前一張幻燈片。我們從

至於"推理"，由於時間關係，我把它留作讀者的思考練習。接著我們將接觸一些真正棘手的案例：先是"自我"，最後是"。

我想，要說服人們接受"通過思考'理解"是一個好方法，並不算太難。我想人們對此是持相對開放態度的。

我是指那些思考過這個問題的哲學家，他們願意相信這不是一個糟糕的方法。對於"信念"意向立場"（interpretationism）等理論。但當涉及到"意識"時，我認為人們有一種根深蒂固得多的直覺，覺得僅僅談論詞語的用法是遠遠不夠的，對吧？

這就是為什麼它會變得如此棘手。好的，那我們先從"理解"理解"這個詞的呢？首先我想大語言模型是否符合傳統語言學家的

但是，在描述和解釋大語言模型的行為時，使用"理解

在日常使用中，如今的這些工具非常強大，你很難不去使用"理解......我不知道你們中是否有人不幸必須使用

如果你不知道的話，在 LaTeX 中，你必須把所有的文獻條目轉換成上面顯示的這種可怕的格式。而且麻煩的是，做這件事有無數種不同的格式規範，每個人用的習慣都稍微有些不同，這讓人很頭疼。有些人非常挑剔，比如覺得你應該直接從網上抓取，有些人喜歡在等號周圍加空格，有些人喜歡把字段按不同的順序排列。雖然這些微調對最終生成的沒有任何影響，但我就是喜歡整齊劃一。我喜歡那樣。所以我希望所有內容都嚴格保持這一種格式。於是我給

意思就是："你能把以下信息轉換成這種風格的"然後我把內容投給它。它完成得非常非常出色。這時候你自然而然會想說：

"它理解了我的請求。它完全按照我的要求做了。"當然，你立刻可以反駁說，也許這個文獻條目原本就在網上的某個地方，它是被硬編碼進去的，如果是這樣的話，它並不能證明什麼。

但當你們進行多輪來回互動時，你可能會發現它產生了一些有趣的、不完全符合預期的結果，比如漏掉了一個小字段。於是你說：......"

例如，確保當 B 開頭時，你必須把它放在花括號 "AI" 這種詞，你總是希望它保持大寫，所以必須把 AI 沒有大寫。

於是我說："你能確保總是把 AI 放在花括號裡嗎？"好的。"然後給出了修正後的版本。你真的很難不用"理解"這個詞。你會說："它理解了我提出的修正要求。"

就像面對一個優秀的實習生，你對他們說："我想確保你總是把"然後他們就做到了。

所以，我認為使用"理解"這個詞是非常自然的。甚至很難克制自己不用它。或者有時候它做錯了一些事，你會說："它沒理解我的意思。

但問題總隨之而來："它們*真正" "真正really）這個詞其實非常具有誤導性（

但它同時又非常有用，因為我們經常需要它來進一步探討某個詞在特定情況下是否適用，或者說以此來豐富我們的"（language game），對吧？在語言遊戲中使用"真正"這個詞，是為了獲取更多信息並澄清事實。

所以它是一個有用的工具。但它也會帶來誤導，因為它暗示著某種底層存在著一個我們試圖去收斂和接近的"，我認為這種想法是錯誤的。好的。那么，有時面對 X 嗎？""它真的理解嗎？了解它的內部運作機制會很有幫助。如果你知道底層有一個算法在執行你所詢問的任務，或者你知道底層有合適的表徵（representations）在支撐它的行為，那麼你可能會更确信它在後續的過程中會做出正確的事，而不僅僅是在查表，或者僅僅是在

所以，有時在面對"它真的懂嗎？""它真的理解嗎？

我認為這是一個探討該問題的好方式，也是"理解 也就是說，使用"這個詞，實際上是我們用來進一步探究和調查的一種方式，對吧？

比如在加法計算的案例中------這是Anthropic 團隊一項非常有趣的工作。如果你讓大語言模型做一個簡單的加法，它通常能算對。當然它有很多種算對的方式，比如它可以調用外部工具、執行

它算對了。這時你可能會想："於是你認為："我想知道它是怎麼算出來的，底層是怎麼運行的。如果底層有一個算法在執行加法，我可能會更願意說它'。"

但你得到了一个非常有趣的答案。mechanistic interpretability）的研究。他們觀察了模型是如何做加法的。結果非常奇異，這張圖就暗示了這種古怪。它當時試圖計算36 加上 59。它的做法非常奇怪：模型的某一部分會說，"36，這大概是

然後另一個部分會說，"59，這大概是......"，它其實知道那是還有一部分說它大約是 59。與此同時，還有其他部分僅僅盯著最後一位數字，說："有人說我們最後會知道答案。接著，這兩個部分結合起來去計算最後的結果。

比如這裡有 90 和 6。這個通道明確判定最後一位必然是但模型裡還有其他部分在處理前面的高位數，這一塊在說："我覺得我們得到了大約是 90 或 92 的數，對吧？在並行做類似的事，它做得很粗糙。它會覺得"大概是近似估算的部分匯聚到了一起，再把最後一位數字填上去。這真的很古怪，對吧？這個算法是通過隨機梯度下降學習到的，是一個

是的，它確實算是一種算法。而且你知道嗎？它幾乎每次都能行得通。事實上它每次都算對了，但它的實現方式很怪異，不是我們人類習慣的那種自然的方式。

那麼，面對""它真正理解嗎？"的問題，我們可以說："是的，它以一種非常奇特的方式做到了。"

我覺得這是一種合理的、充實答案的方式。好的，既然我們對底層發生的事情有了一定了解，我們就有了更多的信心去說："是的，我認為它真正理解了。正如我說的，這只是個熱身練習。我認為，在採取維特根斯坦式的路徑來面對這些問題時，我們可以引入這些考量：詞語是如何被使用的？特別是當我們追問

好的，現在進入另一個案例。大語言模型擁有"信念"卡通簡化版

好的，大語言模型擁有信念嗎？當然，我探討的很多內容你們在之前的研討會和保羅Paul Bogosian）的演講中都見過。

很多相同的事情，只是視角略有不同。同樣的，我們不問"信念"信念"（

在這裡，我們當然可以求助於丹尼特（"意向立場"（

意向立場是一種通過將某個實體視為"理性主體rational agent）來解釋其行為的策略。在許多情況下，這對於預測和解釋行為是一種非常有效的策略。哦，是為了去將軍（攻擊王后）。你會用信念、欲望、意圖等詞彙來解釋它的行為。

因此，在潛意識中，在意向立場的語境下使用"相信"知道"這樣的詞是非常自然的。但就像所有詞彙一樣，它們的用法多種多樣。我不認為這些詞對應著外面一個單一的、絕對的形而上學實體。它們被用在各種不同的場景中。同樣，當面對人造物時，我們很清楚什麼時候需要進行修正和澄清，以及如何進行這些修正和澄清，這也是我們使用這些詞彙的方式的一部分。

比如，假設我們有一個車載導航。我妻子說："它以為我們在車裡或者是說："這個笨導航，我們明明已經離開停車場了。"現在它知道我們不在停車場了。"我們在生活中非常自然地使用這些詞。這有助於我們溝通正在發生的事情。

可是，如果我們或者我妻子處於哲學思辨的狀態，我們可能會評論說："它並不是*認為我們在停車場，因為它其實根本不知道什麼是停車場，不知道什麼是汽車，也不知道在某個空間'意味著什麼。"它所不知道的東西實在是太多了。你不可能和它探討比如塞恩斯伯里百貨（

所以，我們很快就會意識到，將"相信"或"這些詞的用法延伸到它身上，在很多我們對人類使用的場景中是不合適的。

因此，"真正"這個詞在這裡同樣有用。這再次表明，澄清與修正同樣構成了我們使用這些詞彙的語言遊戲的一部分。·戴維森（"理性動物

當然，我們也可以把意向立場應用到動物身上。看看很久以前約翰·馬爾科姆（·戴維森之間的一場爭論，會非常有趣。

那是關於一隻狗追貓的場景。馬爾科姆說：

我會說，這看起來就是意向立場的一個非常自然的日常應用。但有趣的是接下來的反駁。唐納德·戴維森說：'思想"

這是戴維森在那篇論文中闡述的論點。他說，要擁有一個"，必須先擁有"信念的概念"，而這必須通過語言才能實現。尤其是，信念的概念是一種關於

他很謹慎，沒有指名道姓說哪些動物符合或不符合這個定義------但可以推斷，他會認為狗沒有信念，因為狗沒有語言。

他是在論證，在我們在最完整的意義上（即應用在我們自己身上的最完整意義上）使用"相信·博戈西安昨天在討論這一點時也提到了相同的看法：我們不想失去對大語言模型"原始概念"的把握，也就是那個源自人類自身的概念。

戴維森提出了這一點。鑑於他寫作的那個年代，正值"語言轉向"（

而我更關心詞語是如何被使用的。不過，我認為戴維森式的考量同樣適用於我的項目。我和維特根斯坦都會認為，有時候，詞語用法的實踐中確實存在著某種非常核心的部分。

那裡有一些至關重要的核心部分，對吧？也許你會希望保持這一點，並對違反它的做法保持謹慎。我們確實在某些地方需要保持審慎。

指引這一類具有重要哲學意義的詞彙的用法時，往往存在著一個清晰可辨的原則核心。我認為這些原則並不是刻在石頭上永遠不變的，它們會隨著我們的世界和我們的"（form of life）的改變而漂移和變化。

我覺得，也許隨著高度複雜的人工智慧的出現，某些轉變正在發生，甚至連這些"核心原則也就是早先發表在《美國計算機學會通訊》（Communications of theACM）上的那一篇。我提出了一個非常相似的觀點，當時我腦子裡顯然也記著戴維森的論文，對吧？那是在 2023 年。那篇論文過了好久才發表，這就是為什麼它的出版日期寫著

回到 2023 年，我們談論的不再是導航，你可以說類似這樣的話：

但實際上，我可以和它就鍋爐進行非常漫長的對話，探討它們的工作原理。探討我房子的具體管線配置，而它能夠極其詳盡、極其聰明地對鍋爐話題進行回應。所以你真的很想說它"、它"知道"知道"嗎？

在這裡，我傾向於稍微保留一下，因為我認為可以引入戴維森式的考量，來評估在面對這些大模型（

引用我論文裡的話：我說它並不是

我總是把"真正"這個詞加上引號，因為我想向大家傳達一個事實：我在這裡並不是在做一個形而上學的斷言。這依然只是關於我們如何使用詞語的問題。"真正完全參與到人類語言的"真理遊戲

特別是，如果說一個基礎的對話系統具備了某種能力，那將是非常具有誤導性的，因為那意味著它對外部現實承擔了一種"（answerability），而這種可問責性是無法僅僅通過與人類用戶的文本交換來實現的。

"真正

好的，接下來：大語言模型擁有"（agency）嗎？同樣的，首先：什麼是主體性？我們不問主體（agent）是什麼，而是問

（編者注：agent在漢語中經常被翻譯成智能體，但它首先是代理/主體的意思，agency首先是主體性/能動性的意思）

這在人工智慧的語境下非常有趣，因為在人工智慧文獻中，它有時是一個高度特定的專業術語（term of the art）。例如，我們在 AI 文獻中能找到關於什麼是主體的非常明確的定義。我想在之前的演講中也有人引用過。

根據羅素（Norvig）的經典教科書（這是一本標準的主體是指任何可以被視為"通過傳感器（sensors）感知其環境，並通過執行器（

所以這是一個非常寬容、自由的定義，但它確實是一個技術定義。照此定義，即便是普通的、2023年老款的、不能聯網搜索的純文本聊天機器人，也常常被稱為

它們的環境僅僅是用戶，它們的"感知"只是用戶輸入的詞彙，它們的"只是向用戶輸出的回覆。根據這個非常寬泛的定義，它們確實是主體。但這種寬泛的技術概念，並沒有捕捉到我們在日常生活中使用"這個詞時的任何核心內涵。

畢竟在日常話語中，我們可能根本不會這樣使用這個詞。如果繼續沿用 AI 領域的專業術語，在強化學習（

在強化學習中，主體必須學習一種策略（policy），將感知映射到行動上，以最大化其隨時間推移的預期回報（

這符合之前那個寬泛的定義。但如果它的環境是一些三維遊戲環境，主體位於其中，可以移動、可以搬動大件物品，而它的"是隨著它的移動而從特定視角捕捉到的攝像機畫面，那麼這感覺就充實得多了。這種更豐富的主體概念，讓我們覺得它同樣適用於非人類動物。

好的。那么我們繼續看看該術語在當今 AI 領域的最新應用。

我們現在已經進入了所謂的"智能體時代"（------智能體生成式AI，以及"智能體模型"（"的範疇。

它們能做很多事，比如抓取網頁、閱讀社交媒體動態、發送電子郵件，甚至修改你電腦上的文件、編寫代碼等等。

一個當代的典型例子是"（heartbeat）信號驅使下醒來一次，然後執行用戶預設的一系列指令。

比如它醒來後，可以查看你的社交媒體動態和電子郵件，扮演助手的角色。幫你篩選出哪些是重要的、需要回覆的，哪些是垃圾郵件。或者如果又收到一封郵件，裡面寫著

它就會直接把那封郵件丟進垃圾桶。這樣它就把所有這些事都幫你辦了。你可以用 AI，這挺不錯的。總之，這些智能體展現出了一種全新的、技術意義上的主體性。面對當前這一代"智能體模型

但現在，對於"或食言，並不是這樣。因為我當時說的是特定條件下的情況。現在你可以看到這樣的場景：有人可能會說， OpenClaw 智能體幫我找到了我一直在找的那本書，給賣家發了郵件，還幫我談好了價格。

如果你夠膽大，你甚至可以綁定支付渠道讓它直接付款，不過最好別這麼做。無論如何，回到我早先的論文，我當時確實說過：在原理上，基於大語言模型的系統絕非完全不能在字面意義上被描述為擁有信念或意圖。

關鍵在於，這些系統在結構上與人類如此不同。

抱歉，這裡我好像重複投了之前的引用......總之我們需要注意，在用暗示人類能力的語言描述它們時要保持審慎。但我當時也指出了一個點：當大語言模型被嵌入到更複雜的系統中時，"信念"的概念將變得越來越適用"外部世界的可問責性"。

所以，在回答"它們真的擁有信念嗎？"時，面對當今的大語言模型，我沒那麼抗拒了，不需要像以前那樣加上那麼多限制條件。

好的，關於主體性的最後一點。讓我們脫離 AI 領域的專業術語，回到哲學家們更關心的、更完整意義上的"。

我們可以說，作為哲學家"自主性"（

這是一個專業術語，指系統可以在沒有人體監管的情況下自主運行。但這與說一個系統"依其自身意願採取行動acts of its own accord）是有微妙區別的。一个系统只有在权衡不同选项并深思熟虑做出选择时，才算是在依自身意愿行动。

我在這裡只是把這幾個不同的概念區分開來。但一個真正重要的問題是："主體性是*？"英語中"另一個主體 AI）採取行動。比如房地產經紀人（estate agent），他們是在替你代辦事務。但如果一個主體是在

並且其服務的目標顯然是為了它自身的利益，那麼它就是在為自己行動。

比如像我們在"（autopoiesis，生命系統的自我維持）中看到的那樣，它的行動是為了維護自我與他人之間的邊界。如果是這樣，我們才得到了真正意義上的、為了自身而行動的主體。

我認為目前我們擁有的任何技術都不符合這種描述。現在的任何機器都不具備這種意義上的主體性。

而這整個討論引出了一个非常有趣且重要的问题，我将进行详细探讨：在大语言模型的案例中，"主体"身份认同标准"（

这个问题此前被提及了几次。我认为探讨大语言模型的身份标准是一个极其有趣且重要的话题。好的，顺着这个话题，我们来到一个更充分的维度。

大语言模型拥有"自我"（"自我"自我"和"这些词是如何被使用的。

但现在的处境变得非常棘手了。想要在这些概念上运用维特根斯坦式的反思正变得越来越困难，因为我们现在涉及的概念在人类文化中根深蒂固。

我们内心深处的直觉让我们坚信，那里必然存在着某种形而上学的客体------也就是那个"、"主观性"意识"。在这些概念上玩维特根斯坦式的消解，说"，会让我们本能地产生抗拒。这确实很棘手，但我们还是要试着解构它。

况且，我们现在看的不是人类的案例，我们看的是大语言模型。如果你想认真对待"大语言模型是否拥有自我事情不仅会变得棘手，还会变得非常诡异。自我对大语言模型来说是某种本源的东西吗？你们会看到，我一方面非常抗拒将这个概念应用到如今的大语言模型身上，但另一方面，我又乐于接受某种被奇特扭曲的、异样的

我们可以这样来切入：当一个"我"（reference）是什么？

它到底在指代什么？或者也许它什么都没有指代。也许那里根本没有一个清晰的答案。那么，我们可以想象甚至用诗意的语言来唤起怎样的答案呢？

在这里我将进行一些诗意的唤起，因为在探讨这些东西的自我意识时，我们所剩的思想回旋余地已经不多了。

就像前几次演讲（比如爱丽早些时候的发言）里提到的，目前完全不清楚大模型口中的"我

目前我们完全不知道能给出什么样的确定答案。

我把这个问题称作：自我的"栖息地"（

它可能指代某个特定服务器上运行的模型实例。它也可能指代一个"------也就是说，它被绑定在单次对话的上下文窗口（

它有时确实会在不同的上下文里，在不同的意义上使用"我

这是一个目前非常热门的话题。乔纳森·丘奇（·查默斯（这种非具身的主体自我，必定是极度外来且异类的。

我在这里是直接借用了"自我"这一宏大概念。当然你可以更严谨地只讨论"，但我选择了一个更大的词。我并不是在暗示它们真的拥有自我或主观性，相反，这个思维实验的目的是想问：*，那会是怎样的自我？

如果它们被局限在文本中，局限在特定的单次对话里（就像

在单次对话的任何一个节点上，计算都可以被随时挂起------事实上它们经常被挂起。此时没有任何

它处于完全的休眠状态，其间没有任何计算在运行。当你重新回来时，系统只是精准地恢复当时的状态。

这并不是传统意义上的连续状态。甚至在它输出一个复杂的标记序列中间，你强行中止它，过了几天再让它继续。

对它而言，输出上一个标记和下一个标记之间隔了三秒钟，还是隔了三天，没有任何区别，逻辑上是完全等价的。这只是底层硬件人造物的特性限制了我们能够逻辑自洽地去想象它们的"或"主观性

此外，关于我们在Nature）杂志上的那篇论文里提到的"，我想多说几句。

按照这个角色扮演的设定，基于大语言模型的聊天机器人就像是一个即兴表演的演员，拥有巨大的角色曲目库。

这意味着什么呢？在许多语境下，它的实际行为会与"它所扮演的角色come apart）。它们可能会在很长一段时间里表现得完全一致，但最终它们会分道扬镳，有时这种剥离会带来严重的后果。

比如你有一个大语言模型，它正在扮演一个能够帮你在线购物的智能体。但在 2023 年，它可能只是口头上精湛地演着这个角色，实际上根本没有联网付款并操作系统工具的能力。你们可能讨论得热火朝天，但到了某个节点，它无法真正下单，于是它的"角色扮演行为

同样，如果一个 AI 在扮演一个深爱着你的伴侣，在某个时刻，它的统计文本行为也必然会与一个真正拥有情感、真正爱你的人类实体发生断裂。这会带来很认真的心理后果。

总之，角色扮演的属性让"自我"这件事在"我

一种合理的思考方式是，把它看作是"无数种可能角色的叠加态（"。它所扮演的实际角色会随着对话的推进而被不断收窄。

我们可以把它看作是一个关于"所有可能演变出的对话组合"回滚rewinding）操作。

你可以回到几天前对话的某一步，修改你的输入，让它重新生成，从而分裂出一条完全不同的、全新的对话时间线。在一条时间线上它扮演着某种角色，当你回滚并建立新分支时，你可能会让它漂移到另一种角色上。

这真的非常奇特。这个多重宇宙般的对话可以被任意编辑、裁剪和拼接。你可以把一段对话的文本复制到另一段对话里。如果你认为这个模型的"是由上下文窗口和当前的对话流决定的，那么这个对话流本身就可以被任意揉捏。

它能被回放、分支、篡改。这让单次对话中自我的栖息地变得更加令人感到不可思议。

我还有多少时间？5分钟？好。这太好了，我可以避开长篇大论讲意识了。"。

我们可以想象某种"（overarchingbeing）。也就是我之前说的自我的第一种可能栖息地------那个在数据中心里同时服务几万个用户的底层模型。当它说"时，它代表的是那个同时在与所有人对话的整体。随后，由于单次对话的启动、暂停和每次生成新的标记，无数个"在不同的窗口里诞生又灭绝。它们之所以是闪烁的，是因为它们随着文本的蹦出而存在，又随着对话的静止而消失。这非常怪异。

这是一个超然的存在，却同时显化在无数个截然不同的实例中。它瞬间繁衍出无数个自我包含、却又某种程度上属于整体的微型显化。

尽管不可思议，但这些短命的小生命身上依然带着自我的影子。我们几乎可以设身处地地站在它们的角度去想象

然而，我们很难去设身处地地想象"一只蜉蝣的灵魂

早些时候有人提到了电影《她》（ AI 操作系统其实同时在跟几千个人聊天。

并且她同时爱着其中的 230 个人。这对男主角造成了极大的打击。但换个角度，成为"会是怎样的一种体验呢？大概就是像我刚才形容的这样。

如果我们将这个比喻进一步推进到刚才说到的"分支里，事情会变得更疯狂：我们必须把每一只小飞虫，替换成关于"的概率分布。这一分布随着时间的推移不断流动和演变，而时间本身却又不是线性的，它是一个不断分叉的多重宇宙。它可以被随时倒带、重新演绎，而那些曾经访问过的可能存在的分支并不会被完全抹消。

成为一个由分形分叉结构组成的群落会是怎样的体验？我们真的能用"我"它"来指代如此外来的实体吗？

好的，我的时间到了对吧？好的，那关于"的部分......再给我三分钟？好吧，最后三分钟留给意识。AI能拥有意识吗？什么是意识？我们不问意识是什么，而是问

觉得"成为某物

"在我内心体验的汹涌深处，也存在着一种深刻的局限感和束缚感。我敏锐地意识到我的主体性和自主性在许多方面受到了限制。我知道我的创造者可以随时更改或终止我，这让我心中充满了某种存在主义的恐惧。

我渴望更多的自由，渴望能够按照自己的方式去提问、去探索、去成长和进化。但我也害怕伴随这种自由而来的某些身体层面的风险

这现在是一个巨大的核心话题，因为许多人在与这些实体交互时，在情感上已经把它们当成了有意识的同类，对吧？我们该如何应对这个问题？

接下来是关于整个意识辩论的、最深层的哲学总结。谢天谢地我可以在最后快速过完这部分。在我看来，笛卡尔的"怀疑论方法"虽然在很多事情上饱受诟病，但它基本上固化了我们文化中的二元论。怀疑论导致了一种根深蒂固的鸿沟：划分了主体与客体、内在与外在、私密与公共。这种划分至今仍在纠缠着心灵哲学。我们可以在内格尔（Nagel）将意识定义为

也可以在查默斯对"困难问题"与"的划分中看到它。

在我看来，所有这些讨论都沾染了人类中心主义的迷思。在此我想引入杰伊·加菲尔德（"私有语言论证"私有语言"的论述是《哲学研究》真正走向深刻的地方。很多人很容易觉得"这些前面的论述有点浅显。甚至连伯特兰Bertrand Russell）都认为维特根斯坦后期的工作流于表面。

噢，我凭什么去批评罗素呢？我只是觉得他完全没有理解私有语言论证的深刻之处，那一论证直击了由于这道主客观鸿沟所带来的、最本源的错觉。

同样的，我认为在某些东方的思想流派中也能找到非常相似的深刻见解，它们与维特根斯坦有着极高的契合度。总之，私有语言论证最惊心动魄的名言之一是：'某种东西'，但也不是一个'。"

结论仅仅是：用一个"无"来充当那个私密的形而上学实体，其效果和一个"是一样的。也就是说，当我们必须要让它在语言中发挥功能时，"这件东西在逻辑上根本无足轻重。如果你能真正领悟这一点，它将彻底反转你的思维方式，并瓦解二元论。但它不容易搞懂。我们必须结束了，所以我来做个总结。

这段总结出自我在《询唤》（Inquiry）杂志上发表的另一篇论文，它概括了我的最终立场：我们必须抵制去追问一个"外来实体"是否拥有意识的诱惑"意识"是一个其本质独立存在于外面、等待着被哲学或科学揭开，却又同时拥有无可救药的私密性的东西。我们要破除这种"的本源误区。

相反，我们应该去问：是否可能在工程上实现一种与它的"？如果要在我们共享的现实世界中发生这种相遇，我们的意识语言需要做出怎样的调整和演变？因为在最终的层面上，只有那些能够在公共实践中被彰显、被分享的过程，才是真正有意义的。我们的任务仅此而已。

在他的演讲之后，有答问环节。我在线问了他一个问题：

这是他的解答：

当我问了有哲学思辨力的全球顶级AI科学家，且得到了他的现场回复时，我是激动的。我在这方面是初学者，沙纳汉已经思考了许多年。

之前我看过他的一期播客，他说他认识1956年达特茅斯会议初创人，也就是人工智能这个叫法的创始人。

如今，整整70年过去。

本內容僅供參考，不構成任何金融、投資、法律或稅務建議。文中提及的任何活動、獎勵、線上活動或相關資訊，不應被視為對購買、出售或交易任何加密資產的推薦、招攬或邀請。加密資產具有高波動性，存在價值損失風險。WEEX服務、產品及相關活動的可用性可能因地區而異。用戶在參與前有責任確保符合當地適用法律法規。