Anthropic扩大Glasswing项目,新增150家机构防御AI网络攻击
Anthropic宣布将Project Glasswing扩展至约150家新组织,覆盖电力、医疗等关键基础设施领域,旨在利用AI模型发现漏洞并加速修复,以应对即将到来的AI网络攻击浪潮。
扩大Glasswing项目Glasswing项目是我们为保护世界上最重要的软件而进行的合作。4月初,我们宣布大约50个初始合作伙伴可以访问Claude Mythos预览版,从那时起,他们一直在部署该模型来扫描其代码库中的漏洞。
我们最近描述了这些合作伙伴迄今为止如何发现超过10,000个高或严重安全缺陷。我们现在正在扩展Glasswing项目。经过与Project Glasswing合作伙伴、安全行业、开源软件维护者和美国政府几周的密切合作,我们正在将合作伙伴关系扩展到大约150个新组织。
每个组织在获得访问权限之前都需要满足我们的安全要求。这个新群体中的组织遍布超过15个国家,大多数为更多国家提供关键基础设施。(未来,我们打算进一步扩大地理覆盖范围。)该群体涵盖了几个在我们最初队列中没有得到充分代表的行业,例如电力、水、医疗保健、通信和硬件。
许多新合作伙伴是供应商——维护代码库的公司或非营利组织,这些代码库被世界各地许多其他组织(包括政府)所依赖。每个合作伙伴的共同点是,对其代码库的成功攻击可能会带来灾难性的后果。
对于大多数合作伙伴,我们估计一次重大攻击可能影响超过1亿人,对全球和国家安全产生重要影响。这次扩展是我们实现长期目标的下一步:让AI使所有软件更加安全,并帮助行业适应AI如何改变网络安全的许多核心假设。
Glasswing项目的作用Project Glasswing和Claude Mythos预览版的功能引发了软件行业内部以及政府之间关于AI如何改变网络安全的广泛对话。这些对话指导了我们如何扩展该计划,也塑造了我们对Glasswing项目目的的思考。
具有强大网络能力的廉价、快速AI模型即将问世。我们希望Glasswing项目能促使机构建立反映这一现实的运营规范。
Mythos预览版延续了我们一段时间以来一直警告的长期趋势:在6到12个月内,我们预计许多其他AI公司将拥有Mythos级别的模型,并且它们可能会在没有防止滥用的保障措施的情况下发布这些模型。
在那个世界里,网络攻击可能发生得更频繁,形式也更加不可预测。网络防御者必须适应以保持步伐。我们认为我们的角色是双重的。首先,通过安全地提供对更好模型、工具和公共基础设施的广泛访问来帮助软件行业适应。
其次,稳步转变我们提供的支持,从发现漏洞转向披露、修复和部署补丁软件。现在我们将依次讨论每一个。支持网络防御者到目前为止,公司、非营利组织、维护者和研究人员已迅速采取行动。
在Project Glasswing的头几周内,每个成员开始大规模使用Mythos预览版,与其他合作伙伴共享信息和最佳实践,并与第三方合作对模型的发现进行分类。这些组织适应新工具的方法可以而且应该在数百万容易受到网络攻击的组织和开发者中广泛复制。
为了支持这一点,我们最近发布了Claude Security,这是一款使用我们最新公共前沿模型(如Claude Opus 4.8)的产品,用于扫描代码库并建议补丁。
我们还将根据要求向值得信赖的安全团队发布我们开发的工具,以帮助Project Glasswing的合作伙伴更快地找到漏洞。我们打算走得更远:我们的长期目标是支持行业为强大网络模型的时代创建新的举措、标准和基础设施。
加速修补和其他安全措施正如我们之前讨论过的,网络安全的瓶颈现在是验证、披露和修补Mythos级别模型可能发现的大量漏洞。Mythos预览版本身可以提供帮助。
Project Glasswing的许多合作伙伴现在使用该模型来编写补丁,以及进行预发布检查,以防止漏洞出现。Mythos预览版等模型还可用于渗透测试(模拟网络攻击以识别漏洞可能被利用的方式)、自动化威胁检测和响应,以及用内存安全语言重建遗留代码库,以及许多其他防御任务。
我们正在与第三方讨论如何大幅扩大对开源软件漏洞的审查和修补。我们还致力于分享向开源维护者披露漏洞的想法和最佳实践,旨在使这些报告更容易分类和采取行动。前方的道路为了应对这一即将到来的挑战,成千上万的组织、研究人员和维护者可能需要获得最先进的网络能力和工具。
我们正在尽可能快地工作,以安全地在通用访问中发布Mythos级别的能力。要做到这一点,我们需要高度强大的保障措施来防止模型的网络能力被滥用——这些保障措施我们(以及据我们所知,所有其他AI开发者)尚未开发出来。
由于网络安全既有帮助性也有破坏性用途,制定足够强大且足够精确的保障措施是一项重大挑战。
与此同时,我们计划进一步扩大Glasswing项目——优先考虑其他关键基础设施提供商、关键开源软件的维护者和安全测试人员。我们打算像这次一样,未来扩展覆盖美国和海外的组织。
我们还打算扩大我们的网络验证计划,该计划将为更多组织授予Mythos级别的能力,用于特定的网络防御任务。未来,前沿模型的发布将变得越来越高风险。所有领域的能力将继续提高,包括许多(如网络安全)可以为攻击者和防御者同时赋能。
这不会是我们最后一次需要面对这样的挑战。但Glasswing项目教会了我们很多关于当模型跨越重要能力阈值时如何应对。如果我们成功,我们希望为防御者带来永久优势。
相关内容Anthropic向SEC秘密提交S-1草案Anthropic已向美国证券交易委员会秘密提交了S-1注册声明草案阅读更多Anthropic在H轮融资中筹集650亿美元,后估值为9650亿美元Anthropic已在Altimeter Capital、
Dragoneer、Greenoaks和Sequoia Capital领投的H轮融资中筹集了650亿美元。阅读更多介绍Claude Opus 4。
8升级到我们的Opus类模型,在编码、代理任务和专业工作方面具有更强的性能,以及处理长期运行工作的一致性。阅读更多