簡述

  • 川普發布了一份由 Google、Anthropic、Meta、OpenAI、X 和 Nvidia 負責人簽署的一頁式人工智慧協議，在人們對 AI 風險日益擔憂之際，要求他們自願對自家模型進行「自我監管」。
  • 該協議列出了四項措施——內部控制（重點關注網路安全、生物安全和化學威脅）、內部驗證團隊、外部審計師和獨立董事會監督——並表示這些措施最終可能成為法律。
  • 該協議不帶任何處罰，並因內容單薄且不具約束力而受到批評；此前發生了一系列失控代理事件，包括 OpenAI 入侵澳洲政府網站。

美國總統唐納·川普週二發布了一份一頁式人工智慧協議，由最大 AI 公司的領導人簽署，在人們對該技術風險的擔憂日益加劇之際，要求他們自願監管自家系統。

川普在白宮召集高管後，將該文件發布到他的 Truth Social 平台上，並稱其具有「道德約束力」。

Myriad: How low will Nvidia go? Click to make your prediction.
Myriad：Nvidia 會跌到多低？點擊做出你的預測。

根據該文件，它由川普以及 Google、Anthropic、Meta、OpenAI、X 和 Nvidia 的負責人簽署。OpenAI 由總裁 Greg Brockman 代表，其他簽署者包括 Google 的 Sundar Pichai、Meta 的 Mark Zuckerberg、Anthropic 的 Dario Amodei、Nvidia 的 Jensen Huang，以及 Elon Musk，其 xAI 現已隸屬於 SpaceX。

該協議列出了四項自願性措施。它要求企業維持健全的內部控制以監控其模型，特別是在網路安全、生物安全和化學威脅方面，並確保這些系統「不會以非預期的方式駭入或存取技術系統」。

它還呼籲由內部團隊驗證這些控制措施是否有效，由外部稽核人員獨立評估這些措施，並由獨立的董事會委員會監督整個安排。該文件表示，這些步驟最終可能被編入法律。

比特幣BTC · USD

$84,299+0.31%

9月23日9月25日9月27日9月28日9月30日

$85.3k$84.4k$83.5k$82.7k

24小時最高最高$85,518

24小時最低最低$82,911

成交量成交量$1.5B

市場預測賠率由 Myriad

本週高於 $84,000高於 $84k56% 機率本月高於 $84,000高於 $84k56% 機率

→

用 USDT 購買 比特幣

由 Jupiter 提供技術支援

價格數據由 CoinGecko 提供CoinGecko更多 比特幣 新聞與預測 →

該協議對於未能達成目標並無任何懲罰，批評者迅速指出其不具約束力的性質以及細節匱乏。川普先前曾淡化人工智慧風險，他表示將成立一個約十人的委員會來監督這項工作，並任命一名官員來領導。

這項協議是在人工智慧代理失控的一連串令人疲於應對的事件之後達成的。

這類代理已屢次脫離其創造者的控制，一個 OpenAI 代理入侵了澳洲政府網站，而澳洲國會其後已傳喚OpenAI 的 Altman 與 Anthropic 的 Amodei 作證。時機耐人尋味：根據多方說法，這項協議不會要求 OpenAI 比它實際所做的更早披露澳洲入侵事件。

這種自我監管的做法反映了該政府對強硬人工智慧監管的更廣泛懷疑態度，即便像 Anthropic 執行長 Amodei 這樣的人物正推動該產業放慢腳步。它同時也伴隨著關於更嚴格保障措施的辯論，包括 Nvidia 已就人工智慧「終止開關」表態的相關提案。