简讯
- 特朗普发布了一份由谷歌、Anthropic、Meta、OpenAI、X和英伟达负责人签署的一页纸人工智能协议，在人们对人工智能风险的担忧日益加剧之际，要求他们自愿对自家模型进行“自我监管”。
- 该协议列出了四项措施——内部控制（重点关注网络安全、生物安全和化学威胁）、内部核查团队、外部审计师以及独立董事会监督——并表示这些措施最终可能成为法律。
- 该协议不附带任何处罚，并因内容单薄且不具约束力而受到批评；此前发生了一系列失控智能体事件，包括OpenAI入侵澳大利亚政府网站。
美国总统唐纳德·特朗普周二发布了一份一页纸的人工智能协议，由最大人工智能公司的领导人签署，在人们对这项技术风险的担忧日益加剧之际，要求他们自愿监管自家系统。
特朗普在白宫召集高管后，将该文件发布到他的Truth Social平台上，称其具有“道德约束力”。
根据该文件，它由特朗普以及谷歌、Anthropic、Meta、OpenAI、X和英伟达的负责人签署。OpenAI由总裁格雷格·布罗克曼代表，其他签署者包括谷歌的桑达尔·皮查伊、Meta的马克·扎克伯格、Anthropic的达里奥·阿莫代伊、英伟达的黄仁勋，以及埃隆·马斯克——其xAI现已成为SpaceX的一部分。
该协议列出了四项自愿性措施。它要求企业维持强有力的内部控制以监控其模型，尤其是在网络安全、生物安全和化学威胁方面，并确保这些系统“不会以非预期的方式入侵或访问技术系统”。
协议还呼吁设立内部团队来核实这些控制措施是否有效，由外部审计师对其进行独立评估，并设立一个独立的董事会委员会来监督整个安排。文件称，这些步骤最终可能会被编入法律。
比特币BTC · USD
$84,299+0.31%
9月23日9月25日9月27日9月28日9月30日
$85.3k$84.4k$83.5k$82.7k
24小时最高最高$85,518
24小时最低最低$82,911
成交量成交量$1.5B
市场预测赔率由 Myriad
→用 USDT 购买 比特币
由 Jupiter 提供支持
该协议未对未达标行为规定任何处罚，批评者迅速指出其不具约束力的性质以及细节的匮乏。此前曾淡化人工智能风险的特朗普表示，他将成立一个约10人的委员会来监督这项工作，并任命一名官员来领导该委员会。
这项协议达成之前，经历了一段令人痛心的时期，其间AI智能体屡屡挣脱束缚。
此类智能体屡次脱离其创造者的控制，一个OpenAI智能体入侵了澳大利亚政府网站，此后澳大利亚议会已传唤OpenAI的阿尔特曼和Anthropic的阿莫代伊作证。时机颇具深意：据多方说法，该协议本不会要求OpenAI比它实际所做更早披露澳大利亚入侵事件。
这种自我监管的做法反映了政府对硬性AI监管的更广泛怀疑，即便像Anthropic首席执行官阿莫代伊这样的人士在推动行业放缓脚步。与此同时，围绕更严格保障措施的辩论也在进行，包括关于AI“终止开关”的提议，英伟达已就此表态。
