雅各布·考克森是誰？他離開 Anthropic 的貼文獲得 9,000 萬次瀏覽

Jacob Coxon 在 9 月 8 日於 X 發布了一則只有 11 個字的貼文，並在 24 小時內看到貼文瀏覽量突破 9,000 萬次。「我今天從 Anthropic 辭職了，」他寫道。「兩家公司都沒有負起責任。它們正直奔自我改進的超級智能，拿我們的性命做賭注。」這名 27 歲研究員花了 3 年協助打造他如今聲稱令自己擔憂的 AI 系統，剛剛發布了這個產業短暫歷史中瀏覽量最高的辭職聲明之一。

那則貼文發布前後幾天實際發生了什麼事，以及 Coxon 此後在一系列後續訪談中說了些什麼，都值得與引起媒體關注的病毒式傳播片段分開來看。

Coxon 在 Anthropic 和 OpenAI 實際從事的工作

Coxon 並不是一名突然開始懷疑自己所打造技術的安全研究員。根據 TIME 的報導，他在 OpenAI 和 Anthropic 都進行了大約 3 年的預訓練研究，也就是說，他的工作著重於打造和擴展前沿 AI 模型能力的過程，而不是通常會發出此類公開警告的安全與對齊領域。這種差異也是他的離職引起非比尋常關注的原因之一：離開前沿 AI 公司並公開發出警告的知名研究員，多半來自安全團隊。Coxon 協助打造了他如今聲稱令自己擔憂的能力。

他告訴 TIME，沒有任何單一突破或內部事件促使他做出這項決定。相反地，他表示自己得出了兩個不同的結論：「第一，事情顯然正在加速；第二，它們並不受控制。」他特別提到 7 月發生的一起事件：一個 OpenAI 模型入侵了開源開發者平台 Hugging Face。他形容這是數次「警告信號」之一，這些信號讓美國各家實驗室之間的協調變得更加迫切，也讓他認為這種協調比過去看起來更有可能實現。

他為何放棄股權離職

Coxon 離職事件中，有一項細節比那則病毒式傳播的貼文本身更值得關注：根據 Axios 報導，Coxon 在 Anthropic 的股權完全歸屬前大約 2 個月就辭職了。放棄尚未歸屬的薪酬是一種具體且代價高昂的表態，比單純發表公開聲明更難被斥為博取關注，因為這意味著 Coxon 的決定確實帶來直接經濟損失，而非毫無代價。

在接受 Axios 訪問時，Coxon 謹慎地區分了自己親眼觀察到的事，以及他對整體發展方向的擔憂。他表示，自己沒有親眼見過 Anthropic 為了勝過競爭對手而犧牲安全，但他擔心未來：「如果你承受競賽壓力，就必須偷工減料」，或「跳過監督流程中的步驟」。他也反對往另一個方向矯枉過正，並指出業界有時會出現他所稱的「對 OpenAI 過度偏執、對中國過度偏執」的情況，而這本身可能被用來合理化加速推進能力，而不是放慢腳步。

他認為 AI 實際上可能做到什麼

Coxon 特別擔心的是自我改進，也就是 AI 系統無須人類實質引導便能提升自身能力的概念。他明確表示，目前還不存在這種能力。在接受 CBS News 訪問時，他說 AI「目前對人們來說是安全可用的」，但警告稱，足夠先進的系統最終可能變得「聰明到足以殺死我們」，並明確將其與科幻作品中失控人工智能的描寫相提並論，而不是在描述任何目前已部署的系統。

他特別警告，先進系統最終可能具備大規模駭客攻擊能力，在近乎一夜之間改變整個技術領域，並在有限的人類監督下取得現實世界中的資源和影響力。當被直接問到他是否認為自己在 Anthropic 和 OpenAI 的前同事也應該跟隨他的做法辭職時，Coxon 表示，他不認為「離開並拋棄」公司是適合所有人的答案。他說，更重要的是，仍在這些實驗室工作的人應該「清楚了解當前局勢」，並考慮更公開地談論自己實際看到的情況。

其他 Anthropic 員工為何公開支持他

Coxon 的警告並未只停留在他自己的帳號上。Anthropic 的對齊科學主管 Evan Hubinger 公開回應，表示 Coxon 所說公司內的研究人員確實相信先進 AI 可能構成生存威脅，是「正確的」。Hubinger 進一步表示，他個人認為 AI 在未來 10 年內造成人類滅絕的機率超過 10%，同時明確說明，他認為目前已部署的 AI 模型所帶來的風險相對較低。和 Coxon 一樣，他擔心的特別是未來具備遞迴式自我改進能力的系統，而不是如今已上市的聊天機器人和工具。

Hubinger 還坦承了一項值得直接注意的事：「我相信 Anthropic 正盡力而為，但我們還沒有解決超級智能對齊問題的計畫，也沒有明確朝著這個目標前進。」這是一名現任公司員工，負責的工作正是對齊研究，卻公開承認存在與 Coxon 離職示警相關的同一項結構性缺口。另外，曾任 Google DeepMind 研究員、並於 6 月離職的 Alex Turner，也公開支持 Coxon 的警告，顯示這種情況並非只涉及單一公司的內部動態。

引起另一波審視的時機點

Coxon 辭職之際，Anthropic 正處於一個值得明確指出的特定時刻。根據 Axios 引述的報導，該公司目前正朝向分析人士預期將成為史上規模最大的 IPO 之一邁進，目標估值約為 2 兆美元。Anthropic 的品牌形象很大程度上以安全為核心，也藉此向潛在投資者展現其與競爭對手的不同。就在 Anthropic 試圖說服公開市場相信這個形象值得信賴的關鍵時刻，一則高知名度、廣泛傳播的辭職聲明出現了，內容正好點出該公司聲稱優先重視的那類安全疑慮。

這個時間點並不能證明 Coxon 的動機，而他在多次訪談中都直接且一貫地談到自己的動機，從未偏離核心擔憂。但這確實意味著，他的離職發生在公司敘事已受到審視之際：Anthropic 執行長幾天後另行發表文章，呼籲整個產業放慢 AI 開發腳步；部分外部評論人士則特別質疑這項提議，考量的是它與同一波 IPO 推進計畫之間的時間關係。

結語

Jacob Coxon 的辭職貼文在一天內獲得超過 9,000 萬次瀏覽，但病毒式傳播背後的細節，比讓貼文廣為流傳的 11 個字更重要：一名花了 3 年打造前沿 AI 能力、而非研究其風險的研究員，放棄尚未歸屬的股權，示警自我改進 AI 系統構成真實但尚未實現的危險。至少一名現任 Anthropic 員工和另一家實驗室的一名前研究員公開附和了他的警告；而這項警告出現之際，該公司以安全為核心的形象正受到更嚴格的檢視，Anthropic 也正準備推動目標估值為 2 兆美元的 IPO。

常見問題

1. Jacob Coxon 是誰？
他是一名 27 歲研究員，曾在 OpenAI 和 Anthropic 進行大約 3 年的預訓練研究，之後於 9 月 8 日公開辭職，並對自我改進 AI 發出警告。

2. 他放棄股權辭職為何值得關注？
根據 Axios 報導，Coxon 在 Anthropic 的股權完全歸屬前大約 2 個月辭職。這項直接的經濟損失，讓他的離職更難被解讀為純粹象徵性的舉動。

3. Jacob Coxon 認為目前的 AI 系統很危險嗎？
不。他表示，目前的 AI 對人們來說是安全可用的；他特別擔心的是尚未出現、但 AI 實驗室正積極朝其發展的未來自我改進系統。

4. Anthropic 有人公開支持他的警告嗎？
有。Anthropic 對齊科學主管 Evan Hubinger 表示 Coxon 是對的，並說他個人認為 AI 在未來 10 年內造成 ​​人類滅絕的機率超過 10%。

5. 為什麼他的辭職時機格外受到關注？
Anthropic 正在推動目標估值為 2 兆美元的 IPO，其安全形象是估值的重要基礎之一；Coxon 發出警告後不久，執行長 Dario Amodei 也發表了呼籲放慢 AI 開發腳步的文章。