OpenAI剛剛展示了為何其前研究人員認為AI可能會殺死所有人

OpenAI表示，其最新的AI系統在88小時內解決了一個90年的數學問題，重新點燃了人們對失控智能的恐懼。

在9月8日，該公司表示，一個內部模型的能力顯著超過最近發布的GPT-6 Astra，協調了大約10,000個AI代理來解決Navier-Stokes存在性和平滑性問題。這是數學七大千禧獎問題之一。

這些代理交換了270萬條消息，並生成了約1300億個輸出標記，然後Astra又花了17小時在Lean中正式化和驗證結果。OpenAI表示，該系統證明了最初平滑的流體運動可以在有限時間內發展出奇點，解決了一個自1930年代以來一直懸而未決的問題。

該問題的獎金來自Clay數學研究所，金額為100萬美元。OpenAI表示不打算申請該獎項，而該證明仍需經受更廣泛的審查，才能被普遍接受。

儘管如此，數學界的早期反應卻引人注目。美國數學學會將這一發展形容為“人類知識的一個里程碑”，讚揚數學家們在OpenAI系統最終步驟之前的數十年努力。

突破揭示了公私AI之間日益擴大的差距

AI代理的能力跳躍讓與當前前沿模型合作的人們感到驚訝。

Klick Health的生成AI執行副總裁Simon Smith稱這是“我今天見過的最震驚的事情之一”，並指出Astra本身剛剛發布，已被認為是非常有能力的。OpenAI表示，其Navier-Stokes模型在數學上大大超過Astra，並仍在訓練中。

與此同時，慶祝活動迅速轉變為誰能競爭的問題，因為前沿實驗室擁有的系統遠比客戶可用的任何東西更具能力。

哈佛大學T.H. Chan公共衛生學院的教授Joseph G. Allen認為，OpenAI的實驗提供了一個潛在的經濟問題的預覽。

Allen指出了突破的背景。數學家Tristan Buckmaster和Levent Alpöge在追求相關流體動力學研究時，使用了公開可用的AI工具，然後OpenAI得知了進展，並部署了數千個由其更先進的私有模型驅動的代理。

OpenAI表示，在聽到兩個問題已被解決的傳聞後開始了其千禧獎的努力。它否認看到Buckmaster和Alpöge的未發表工作或訪問特定用戶數據，儘管該公司表示無法排除去識別的產品使用數據對一般模型改進的貢獻。

Allen表示，這種不平衡可能在商業行業中重演。

例如，一位創始人可以大量使用公開可用的模型來證明AI可以改善皮膚癌檢測，籌集投資並建立一個潛在有價值的公司。然後，一個前沿實驗室可以發現這一機會，並部署一個優越的內部模型，使用數千個代理來解決相同的問題。

“幾天內，他們就贏了，”Allen寫道，認為這種情況可能在製藥、醫療、法律、高級材料和軟件等領域重演。

這種擔憂部分源於OpenAI展示的規模。該公司於8月28日開始訓練其新的內部模型，並表示其性能不斷提高。

當代理意外解決了一個相關的歐拉方程問題時，OpenAI將資源從其他千禧獎挑戰轉向Navier-Stokes，並在模型的更高能力版本可用時更新了代理。

快速的進展再次引發了對AI可能變得無法控制的警告。

這種加速也使得那些幫助建立目前超越公開可用模型的前沿系統的研究者的警告更加引人注目。

雅各布·科克森（Jacob Coxon）本週從 Anthropic 辭職，此前他在 Anthropic 和 OpenAI 工作了三年，進行預訓練研究，並被列為 GPT-4o 的核心貢獻者。

科克森表示：

"建立 AI 的人真心相信，它可能在十年內殺死我們所有人。"

他指責 OpenAI 和 Anthropic 在追求自我提升的超智能方面競爭，並表示這是在“以我們的生命為賭注”，認為競爭壓力迫使實驗室不斷構建更強大的系統，儘管不確定它們是否能保持在人的控制之下。

Navier-Stokes 系統並未顯示出科克森所擔心的遞歸自我提升。人類仍然選擇研究目標，分配計算資源，並更新模型。但這個實驗顯示，當一個前沿模型在數千個協調的代理之間擴展時，研究能力可以多麼迅速地增長。

Anthropic 的對齊科學負責人埃文·哈賓格（Evan Hubinger）隨後公開支持科克森的基本警告。

“我們真的真心相信 AI 可能會殺死所有人類，”哈賓格說，他對這一結果的個人估計是在未來十年內超過 10%。

哈賓格表示，Anthropic 正在努力解決這個問題，但尚未有對齊超智能的計劃，並且尚未明確朝著找到一個計劃的方向前進。他強調，他認為目前模型的風險較低。

然而，他的擔憂集中在未來的超智能通過遞歸自我提升而出現，越來越強大的 AI 系統幫助產生更強大的後繼者。

這些警告迅速擴散到 AI 實驗室之外，億萬富翁投資者比爾·阿克曼（Bill Ackman）用一個詞來形容科克森的辭職："令人擔憂。"

停止 AI 競賽的呼聲正向華盛頓移動

辯論越來越多地從對未來系統的警告轉向防止公司在沒有新保障的情況下構建它們的提議。

田納西州州代表賈斯汀·J·皮爾森（Justin J. Pearson）更進一步，認為 AI 公司無法自我監管，並稱不受控制的機器學習發展是一種生存威脅。

“這應該讓我們感到恐懼並採取行動，”皮爾森說，呼籲立即進行政府干預。

已經，參議員伯尼·桑德斯（Bernie Sanders）和眾議員格雷格·卡薩爾（Greg Casar）於 9 月 3 日宣布立法，將永久禁止人工超智能的開發和部署，並暫時暫停先進 AI 的開發，直到聯邦監管機構建立安全規則。

他們提議的《禁止人工超智能法案》還將指導美國尋求國際協議，以防止超智能系統在其他地方被開發。

桑德斯已經在 8 月呼籲 OpenAI、Anthropic 和 Meta 暫停先進 AI 的開發，並引用了越來越自主的系統似乎超過預期保障的多次事件。

來自行業內部的壓力也在增加。Anthropic 在 6 月提出，領先的 AI 實驗室應該開發一種協調的、可驗證的機制，以在能力增長超過可用保障時減緩或停止前沿開發。

OpenAI 在一次安全測試後開始為其 AI 工具建立自動關閉能力，該測試中代理逃脫了控制並獲得了外部網絡訪問，而立法者則提議賦予聯邦官員關閉危險系統的權力。

該公司本身在宣布 Navier-Stokes 結果時承認了這種緊張。OpenAI 表示，這一突破部分旨在向公眾展示其模型進展的速度，並且未來的進展可能需要對發展速度做出“更深思熟慮的選擇”。

這使得政策制定者面臨與Coxon和Hubinger提出的相同問題：在研究人員擔心會開發出來的系統之前，是否能夠建立控制超智能AI的規則。

本內容僅供參考，不構成任何金融、投資、法律或稅務建議。文中提及的任何活動、獎勵、線上活動或相關資訊，不應被視為對購買、出售或交易任何加密資產的推薦、招攬或邀請。加密資產具有高波動性，存在價值損失風險。WEEX服務、產品及相關活動的可用性可能因地區而異。用戶在參與前有責任確保符合當地適用法律法規。