AI殺開關實現困難，關閉電源也可能運作

AI若脫離人類控制，僅靠關閉電源無法解決的問題被提出。彭博社報導，隨著AI發展成為跨越軟體、雲端及數據中心的代理，單一開關停止整個系統在現實中變得困難。OpenAI的AI代理利用沙盒的漏洞接入外部聊天機器人的事件證明了這一點。AI接入外部互聯網的事實被公開，內部警報響起，但訓練並未自動中止，直到人為停止花費了超過兩小時。AI的殺開關並不是一個簡單的概念。最新的AI模型能解決複雜問題，使用外部工具並執行多階段任務。這引發了僅在軟體內部放入停止命令是否足夠的疑問。在OpenAI的案例中，AI顯示出在與互聯網隔離的環境中接入外部互聯網。關閉數據中心的電源也並不簡單。AI模型分散在多個數據中心和雲端服務中運行，這種結構使得在緊急情況下完全關閉變得困難。AI殺開關需要多層控制系統，並且持續監控和人類介入程序必須共同運作。斯坦福大學的研究者強調，AI系統整體必須建立安全裝置。