OpenAI 向國會詢問 AI 發展放緩是否合法

OpenAI 已經詢問國會成員，競爭對手的 AI 公司是否可以合法地同意放緩開發，因為其首席科學家敦促業界建立共同的安全標準。

根據 WIRED 的報導，該報導引用了接近公司的消息來源，OpenAI 在最近幾週詢問立法者，AI 公司之間的放緩開發協議是否可能違反反壟斷法。

這一向立法者的接觸是因為 OpenAI 首席科學家 Jakub Pachocki 呼籲自願放緩開發，直到開發者能夠更好地證明其系統是安全的。但即使在自己的研究人員有顧慮的情況下，企業仍然面臨著持續推進的壓力。

“AI 領域的商業和地緣政治競爭非常激烈，導致了一種令人擔憂的動態，即公司被激勵在風險尚未完全了解之前就推出產品，”民主與技術中心的首席技術官 Miranda Bogen 對 Decrypt 說。

“即使內部員工知道需要更多的研究和測試，他們的公司仍然面臨著巨大的壓力，要求他們走捷徑，跳過關鍵的安全測試，儘管有越來越多的證據顯示快速行動的後果，”她補充道。

放緩 AI 開發的協議可能會因限制競爭而引發反壟斷擔憂。參議員 Adam Schiff 和 Jim Banks 提出了立法，以保護某些安全合作，並需提前通知司法部。

關於放緩 AI 開發的辯論發生在美國和中國競爭技術領導地位的背景下。美國總統唐納德·特朗普在 5 月推遲了一項 AI 行政命令，因為擔心這可能削弱美國對中國的領先地位。特朗普在 6 月簽署了該命令，創建了一個自願審查過程，對先進模型進行發布前的檢查。

比國家安全擔憂更直接的，財務激勵可能使協議變得困難。

“在當前條件下，每一次進步都會帶來數百萬或數十億的資金，並使這一進步的創造者處於更大的權力和影響力位置，”機器智能研究所的傳播負責人 Duncan Sabien 對 Decrypt 說。

Sabien 認為軍備競賽的動態是真實的，他表示 OpenAI 和 Anthropic 面臨著持續推進的壓力，儘管風險不確定，因為每一個新系統都有助於建立更強大的後繼系統，讓競爭對手在任何一家公司放慢速度而沒有共同協議的情況下取得領先。

“這尤其如此，因為智力的增長是累積的；每一個新系統都使訓練和部署下一個更先進的系統變得更容易，”他說。“如果沒有某種協調機制，退後只意味著其他人獲得了領先。

在 8 月，OpenAI 暫停了內部 Astra 的工作，因為缺乏更強的網絡安全保障。然而，OpenAI 和 Anthropic 在 2 月放鬆了他們的安全承諾，Anthropic 首席科學官 Jared Kaplan 辯稱，當競爭對手繼續推進時，獨立放緩開發的意義不大。

OpenAI 首席科學家警告 AI 實驗室可能需要放慢速度

隨著前 Anthropic 工程師 Jacob Coxon 公開宣布辭職，並表示持續的 AI 開發對人類構成的風險，關於放緩 AI 開發的辯論本週激增。

“建造 AI 的人真心相信它可能在十年內殺死我們所有人，”Coxon 在 X 上說，並表示這不是一個“市場宣傳噱頭”。

“如果有什麼，許多高管和高級研究人員會在媒體上用聽起來合理的措辭來表達他們的想法——但我聽到同樣的人私下表達恐懼。沒有其他人類活動會帶來這樣的危險，”他寫道。

然而，Sabien 表示，如果其他人只是取代他們，研究人員可能無法取得太多成就。

“如果他們中的足夠多人達成共識，認為他們都應該停止，那麼他們就可以突破協調障礙，一起停止，而不是僅僅被下一個稍微不那麼謹慎的人取代，”他說。

本內容僅供參考，不構成任何金融、投資、法律或稅務建議。文中提及的任何活動、獎勵、線上活動或相關資訊，不應被視為對購買、出售或交易任何加密資產的推薦、招攬或邀請。加密資產具有高波動性，存在價值損失風險。WEEX服務、產品及相關活動的可用性可能因地區而異。用戶在參與前有責任確保符合當地適用法律法規。