华尔街慌了：Anthropic AI模型已具备自主攻击能力！美财长和联储主席紧急预警

来源：美股财经社

AI初创公司Anthropic又创出美国金融史上的一项纪录：最新推出的AI大模型对金融安全性的威胁同时惊动美国财政部和美联储，同时又让华尔街大行们集体投入紧张的测试之中。

据路透社报道，两位知情人士透露，美国财政部长斯科特·贝森特和美联储主席杰罗姆·鲍威尔本周召集华尔街银行首席执行官举行紧急会议，警告称Anthropic公司最新的人工智能模型以及其他一些公司推出的模型存在网络安全风险。

报道称，花旗集团、摩根士丹利、美国银行、富国银行和高盛的首席执行官均出席了会议。一位消息人士告诉路透社，摩根大通首席执行官杰米·戴蒙未能出席。

值得注意的是，加拿大央行与该国主要银行及金融公司周五也举行了会议，讨论Anthropic最新人工智能模型带来的网络安全风险。

Anthropic本周早些时候推出了功能强大的Mythos模型，但并未进行广泛推广，只向极少数公司发布，理由是担心该模型可能会暴露以前未知的网络安全漏洞。

该公司指出，Mythos人工智能系统在测试期间能够识别并可能利用多个漏洞。虽然这些案例均未直接涉及金融机构，但该公司安全团队表示，其中一个案例中，Mythos成功入侵了一个网络浏览器，使得黑客搭建的网站能够读取另一个网站（例如受害者的银行网站）的数据。

据Anthropic安全团队发布的消息，Mythos Preview “完全自主地发现”了一种读取存储在“多个不同网络浏览器”中的信息的方法，然后利用这种能力找到了利用这些浏览器漏洞的方法。

Anthropic公司表示，在其中一个案例中，Mythos找到了一种利用多个漏洞攻击网络浏览器的方法。Mythos的这种策略对于人类黑客来说很难完成，因为人类黑客很难同时找到并利用多个漏洞，但Mythos可以。

所谓的漏洞链可以成为入侵原本高度安全的系统的途径，例如Stuxnet病毒攻击就破坏了伊朗核设施的离心机。

上周，Anthropic表示，他们正在与美国政府官员就该型号的“进攻性和防御性网络能力”进行持续讨论。

一位接近此事的第三位消息人士重申，Anthropic在Mythos发布之前主动向美国政府高级官员和主要行业利益相关者介绍了Mythos的功能。

一位消息人士称，财政部周二在华盛顿主持召开的会议旨在确保各银行意识到Mythos和类似模型带来的风险，并采取措施保护其系统。

访问以下网址，订阅最新新闻电邮：

https://nbwpress.com/subscribe.html

一位消息人士称，发出邀请时，大多数美国大型银行的首席执行官已经身在华盛顿参加金融服务论坛（一个由大型贷款机构组成的倡导组织）的会议。

Anthropic公司表示，Mythos的访问权限将仅限于约40家金融和科技公司，包括微软、谷歌、摩根大通、亚马逊和苹果、，它们都参与了名为“玻璃之翼计划”（Project Glasswing）的项目，该项目旨在确保最重要的金融安全系统在其他类似人工智能模型可用之前得到保护。

同时，特朗普政府官员也在鼓励华尔街银行使用Mythos模型来检测系统漏洞，这些银行开始在内部测试该模型。

摩根大通是唯一一家被指定参与Mythos模型测试计划的银行，但据知情人士透露，其他主要金融机构也已获得访问权限或预计将在未来几天内获得访问权限。

知情人士透露，高盛集团、花旗集团、美国银行和摩根士丹利等银行都正在进行内部技术测试。

据知情人士透露，府官员没有提出任何针对金融机构的具体威胁，而是更普遍地鼓励银行利用该模型来改进自身的防御措施。

特朗普政府官员的敦促凸显了监管机构日益增长的担忧，即新型网络攻击是金融业面临的最大风险之一。所有被召集参加会议的银行都被顶级监管机构认定为具有系统重要性，这意味着它们的稳定对全球金融体系至关重要。

Anthropic公司一直在与特朗普政府进行法律诉讼。五角大楼曾将该公司列为供应链风险企业，Anthropic公司对此表示反对。本周早些时候，联邦上诉法院驳回了Anthropic公司暂停执行五角大楼这一认定的请求。

美国国家经济委员会主任凯文·哈塞特在接受采访时表示，美国官员正在敦促银行利用人工智能技术改进其数字防御，这令人感到紧迫。

“贝森特部长的做法是恰当的，”他在谈到与华尔街领袖的会面时说道。

他说：“我们正在采取一切可能的措施，确保每个人都能免受这些潜在风险的影响，包括Anthropic同意暂缓向公众发布该模型，直到我们的官员弄清楚所有情况为止。”

近年来，监管机构要求银行持有一定资本，以应对网络攻击的可能性以及其他所谓的运营风险，例如诉讼和员工违规行为。鉴于运营风险比影响银行资本水平的市场风险和信用风险更难衡量，银行有时对这些要求感到不满。