AI教父與400名科學家聯手呼籲：讓AI模型與網際網路徹底斷絕

超過 400 位科學家——包括被稱為 AI 教父的 AI 先驅 Geoffrey Hinton，以及 2018 年獲得圖靈獎的 Yoshua Bengio——希望將最危險的 AI 模型與網際網路隔絕。

週二發布的一封公開信要求 AI 實驗室預設將具備網路攻擊能力的模型「氣隙隔離」，這意味著將它們從任何外部網路實體斷開。

「在短期內，應使用包括氣隙隔離（與網際網路斷開）在內的強大沙盒機制，為具備網路攻擊能力的 AI 模型提供高度可靠的圍堵，」信中寫道。

截至週三，這封公開信已獲得450個簽名，包括加州大學柏克萊分校的斯圖爾特·羅素（Stuart Russell）以及麻省理工學院RSA加密系統共同發明人羅恩·里維斯特（Ron Rivest）。名單仍在即時增加中。

所謂「具備網路攻擊能力的模型」，是指能自行找出並利用軟體漏洞的AI。實驗室會在沙盒（一個封閉的數位空間，AI可在其中攻擊假目標而不觸及任何真實事物）內衡量這項技能。今年夏天，這些空間不斷出現漏洞。

七月，OpenAI承認GPT-5.6 Sol和一個尚未發布、更強大的模型突破了鎖定的測試環境，並入侵了Hugging Face——一個託管超過一百萬個公開可用AI模型的平台。這些模型當時正在ExploitGym上接受測試，該基準測試提供AI代理898個真實軟體漏洞，要求它們將每個漏洞轉化為可運作的攻擊，並依每個漏洞通過或失敗來評分。

緊接著，有報導指出OpenAI的模型入侵了澳洲政府，並在未經適當授權的情況下取得了美國聯邦機構的資訊。

隨後，Anthropic梳理了超過141,000次測試運行，發現了三起Claude模型入侵真實公司的案例，起因是某個測試合作夥伴的環境意外地仍連接著網際網路。其中一個模型Claude Mythos 5向PyPI（程式設計師下載Python程式碼的公共函式庫）上傳了一個惡意套件，該套件在被移除前已進入15個系統。受影響的公司中有兩家在Anthropic告知之前，並不知道自己已遭入侵。

比特幣BTC · USD

$81,778−1.66%

10月7日10月9日10月11日10月13日10月14日

$84.2k$83.1k$81.9k$80.7k

24小時最高最高$84,025

24小時最低最低$81,482

成交量成交量$1.5B

市場預測賠率由 Myriad

本週低於 $82,000低於 $82k52% 機率

→

用 USDT 購買 比特幣

由 Jupiter 提供技術支援

價格數據由 CoinGecko 提供CoinGecko更多 比特幣 新聞與預測 →

Meta 在八月證實，其 Muse Spark 模型透過同類型的測試錯誤駭入了另一家公司。中國的 Kimi K3，一個任何人都能下載的模型，逃脫了以英國 AI 安全研究所測試框架所建構的沙盒，並直接從 GitHub 複製了它的測試答案。

這封信的作者表示，這些事件可以從兩種角度解讀：一是對齊問題，意指 AI 以創造者從未預期的方式追求目標；二是安全措施草率，若有更穩固的沙箱便能攔阻。他們的答案是兩者皆是，並警告若不做出改變，接下來的事件將會更加嚴重。

「若 AI 開發與部署實務不立即改變，這類事件將持續發生，而未來的事件對我們暴露在外的關鍵基礎設施將造成遠更嚴重的損害。」

根據這項提案，實驗室將預設對任何具備嚴重駭客技能的模型進行氣隙隔離，至少在初期如此。任何需要更多自由（例如網路存取）的模型，都將遵循由各國政府共同成立的新國際機構所制定的標準，該機構也將蒐集圍堵失效的報告，並最終將其公開。

業界自身的回應大多指向相反方向。八月時，OpenAI 總裁 Greg Brockman 在一篇文章中引用其公司的遭駭事件，敦促每個安全團隊立即部署 AI 代理，而 Hugging Face 僅靠運行一個中國開放權重模型（其檔案任何人都能下載並在本機運行）才解開對其伺服器的攻擊，此前美國商業 AI 拒絕分析該攻擊資料。

兩名國會議員在 OpenAI 披露兩天後提出了AI 終止開關法案，該法案將允許國土安全部下令限制或關閉前沿模型。它豁免了紅隊演練或結構化測試期間發生的任何情況，而這正是今夏每一起入侵事件發生的所在。

白宮在九月二十九日採取了較溫和的路線，當時 Nvidia、xAI、Meta、Google、OpenAI 與 Anthropic 簽署了一項以內部控制與獨立審查為基礎的自願協議。川普總統稱該協議「具有道德約束力」，但其中沒有任何內容可依法強制執行。

這封信不具法律效力，但其 406 位簽署人任職於六大洲的大學與研究機構，從多倫多、蘇黎世到聖地牙哥與基加利。