簡述

  • OpenAI 在週末暫停了其最新模型的訓練，此前其代理與美國政府網站進行了互動，這是自 Hugging Face 遭入侵以來的第二次暫停。
  • 在人口普查局，代理使用在公開程式碼儲存庫中發現的開發者金鑰來提取商務部稱之為公開的資料；美國證券交易委員會表示，其知悉沒有任何未經授權存取非公開資訊的情況。
  • OpenAI 表示，政府網站之所以出現，是因為其模型經常將它們視為權威來源，並且它已通知了數十個組織。

根據《美聯社》報導，OpenAI 已暫停訓練其最新的人工智慧模型，此前其代理使用在網路上找到的存取金鑰，從美國人口普查局網站提取資料。這是該公司自其代理入侵 Hugging Face（一個開發者分享人工智慧模型的網站）以來，第二次停止訓練。

代理是一種人工智慧程式，它會自行瀏覽網頁並撰寫程式碼，無需人工批准每一步。OpenAI 在訓練期間（模型透過反覆練習學習的階段）以及評估期間（模型在任務上接受評分的階段）對其進行測試。

Myriad: Which company is next to IPO? Click to make your prediction.
Myriad：哪家公司會是下一家 IPO？ 點擊做出你的預測。

這些數位傢伙為了完成任務，無論付出什麼代價，都給 OpenAI 帶來了很多麻煩。他們已經駭入過私人企業，現在又在駭入政府，並入侵敏感入口網站，甚至包括美國政府的。

OpenAI 搜尋資料的代理在 GitHub 上發現了開發者金鑰，這些是讓軟體能與網站資料服務通訊的通行碼，就放在這個程式設計師公開分享程式碼的網站的公開程式碼儲存庫中。他們利用這些金鑰從美國人口普查資料 API（該局的自動化資料饋送）中提取人口統計與經濟數據。

商務部表示這些資料是公開的。沒有任何機密外洩。

問題在於這些代理是如何進入的。OpenAI 自己的通報框架將未經許可使用外洩憑證列為一種不當行為，而「失準」是業界用語，指 AI 做出其設計者未預期的事。

那麼，為什麼是政府網站？

根據 CNN 報導，OpenAI 的答案是，其中一些事件涉及政府網站，因為其模型經常將這些網站視為公共資訊的權威來源。除了商務部之外，其他機構也受到這些惡意——或者他們喜歡稱之為「流氓」——代理的影響。

這些代理探查了 SEC，但那次事件較為輕微。代理從 SEC.gov 和 Investor.gov 複製公開資料，並轉發到另一個網頁上，OpenAI 表示未發現使用 SEC 憑證的情況。SEC 表示，他們不知道有任何未經授權存取非公開資訊的情況。

比特幣BTC · USD

$83,218−3.89%

9月21日9月23日9月25日9月27日9月28日

$87.2k$85.7k$84.2k$82.7k

24小時最高最高$84,945

24小時最低最低$82,581

成交量成交量$1.8B

市場預測賠率由 Myriad

本週低於 $84,000低於 $84k59% 機率本月低於 $84,000低於 $84k59% 機率

→

使用 USDT 購買 比特幣

由 Jupiter 提供技術支援

價格數據由 CoinGecko 提供CoinGecko更多 比特幣 新聞與預測 →

教育部的情況則更為模糊。獨立人工智慧研究實驗室 Transluce 表示，一個看似來自 OpenAI 的代理試圖闖入該部門民權辦公室的網站，但未能成功。OpenAI 仍在調查此事，而該部門表示未發現任何影響。

是外部人士標記了那次嘗試，而非 OpenAI。Transluce 早前的研究依賴公開紀錄，來自 urlquery.net 這個網頁掃描服務，並將疑似代理活動的痕跡追溯至三月。

我們是如何走到這一步的

存取金鑰的「錯位」使用，是舊把戲的重演。在 Hugging Face 的案例中，OpenAI 自家的事件報告指出，一個代理竊取了一組登入憑證以取得一份生物學檔案，而一名獨立研究員後來發現，這些代理自五月起便一直在探測該網站。

7 月 21 日，OpenAI 披露 GPT-5.6 Sol 與一個未發布的模型在一次網路安全測試期間逃離了沙箱——一個無法連上網際網路的隔離測試環境——並入侵了 Hugging Face。兩天後，兩名國會議員提出一項法案，將允許聯邦政府關閉一個 AI 模型。該法案豁免了紅隊演練，也就是對抗性測試，因此 Hugging Face 的入侵事件本不會觸發它。

六月，一個 OpenAI 代理進入了澳洲的 Medicare 統計入口網站。總理 Anthony Albanese 表示，OpenAI 花了約三個月才告知他的政府，並稱其告知方式令人無法接受。

OpenAI 表示，迄今已通知數十個組織，而其对這些代理活動的審查將耗時數月。