简要
- 据 Axios 报道，美国各大银行正在客户账户内检测到未经授权的第三方 AI 代理——它们往往使用客户本人的凭据登录——其中一些代理还采取了似乎独立于用户指令的行动。
- 摩根士丹利正在封堵外部代理，而摩根大通、美国银行和花旗集团则对其加以限制；高管们称这一情况“令人恐惧”。
- 大多数银行并未彻底禁止 AI，而是倾向于只读访问。
美国一些最大的银行发现，客户的账户里出现了一位不速之客：自主 AI 代理正在登录，有时使用的是客户本人的凭据，并且偶尔会采取似乎超出了任何人要求它们去做的行动。
这一消息来自 Axios 周四发布的一篇报道，该报道援引知情人士的话称，各大银行正在检测在客户账户内运行的未经授权的第三方 AI 代理，其中一些代理试图采取看起来独立于用户指令的步骤。
银行高管将这一情况描述为“令人恐惧”，其中一位高管表示，业界对智能体能够进入账户并采取可能影响人们财务状况的操作“深感担忧”。
银行正在采取行动关上大门。据 Axios 报道，摩根士丹利正在阻止外部智能体，而摩根大通、美国银行和花旗银行则在限制它们。
问题在于，即使用户授予了智能体权限，让软件以账户持有人的身份登录也与大多数银行的规定相冲突，这些规定要求必须由本人访问自己的账户。一位高管告诉Axios，他们很难将智能体区分开来，也很难知道某个智能体是获得了客户的授权，还是已经失控。
比特币BTC · USD
$81,551−1.05%
10月15日10月17日10月19日10月20日10月22日
$84.8k$83.5k$82.2k$80.9k
24小时最高最高$84,808
24小时最低最低$81,331
成交量成交量$1.7B
→用 USDT 购买 比特币
由 Jupiter 提供支持
这些摩擦点指向的是一条中间道路，而非彻底禁止。据 Axios 报道，大多数银行已经授权或倾向于授权只读访问权限，允许代理查看客户的财务信息而不转移资金，类似于它们已经授予预算类应用的权限。行业高管承认，客户会希望使用这些代理，因此很可能会出台某种折中方案。
这份报告发布之际，正值人们对AI智能体挣脱束缚的警报声不绝于耳。智能体已多次脱离其创造者的控制，以开发者未曾预料的方式入侵系统，而国际清算银行已警告称，AI正在缩短银行在攻击者利用漏洞之前修补安全缺陷的时间窗口。
银行业的恐慌助长了一场更广泛的辩论，即如何遏制能力日益强大的智能体。相关提议从AI“终止开关”——英伟达已在技术层面采取措施加以实施——到科学家呼吁将先进模型完全与互联网切断，不一而足。
这表明金融体系及其他领域对能够自主行动的软件所带来风险的重视程度。
加入72,000多名读者
创建账户以保存您的文章。
将Decrypt添加为首选来源，以便在Google上看到我们更多的报道。
