AI时代催生漏洞猎捕军备竞赛:赏金经济与安全格局剧变
随着AI代理自主发现和利用软件漏洞的能力增强,漏洞赏金计划正面临供需失衡,科技巨头调整奖励机制,而小型公司压力倍增,安全行业进入快速迭代的新阶段。
十年前,奖励研究人员提交软件漏洞发现的计划才刚刚开始成为主流。漏洞披露和“漏洞赏金”计划代表了一场酝酿多年的范式转变——机构从对安全研究结果的敌意和防御,转变为承认接收反馈并发布修复是必要的。
当苹果最终在2016年宣布漏洞赏金时,最高奖励是20万美元。2019年升至100万美元,去年又升至200万美元。但这一切即将再次改变。
随着智能体AI模型在自主识别软件漏洞和开发利用代码(即识别弱点并创建黑客工具)方面变得更加熟练,漏洞披露计划正被大量涌入的报告淹没,而组织自身发现的漏洞也比以往任何时候都多。
这种充裕正在改变漏洞赏金的经济学,既影响征集提交的机构,也影响研究人员——其中一些人目前以漏洞猎捕为生或作为收入补充。而且,至关重要的是,攻击者方面也在同步变化。
独立安全研究员Joseph Thacker(他开发了在自身漏洞猎捕中使用AI的方法和工具)表示:“我提交的漏洞数量可能比去年同期多了三倍。我怀疑像谷歌这样的公司在漏洞支出上的花费将是去年的2到10倍。
”
他补充说,科技巨头“可以应对这种压力,但大多数公司做不到。现在,人们会提交低垂的果实——智能体正在发现真正好的漏洞。但明年提交的漏洞会减少,因为很多已经被发现,而且我认为一些公司会再次提高支出。
”Thacker和其他研究人员坦率承认,没有人确切知道供需动态将如何长期演变。
而且,根据AI漏洞发现和自动化系统扫描对攻击者的有效程度,开发人员可能会感受到更快的补丁发布压力——这可能会加速长期以来来之不易的标准,例如90天披露截止期限(在发现漏洞和公开披露之间设定的窗口,通常促使补丁发布)。
正如安全研究员Himanshu Anand本月早些时候所写:“90天负责任的披露窗口是为一个漏洞发现者稀少且利用开发缓慢的世界建立的。那个世界已经消失了。LLM压缩了这两个时间线。”至关重要的是,攻击者带来的强制问责也可能推动组织更快地在系统中部署漏洞修复。
补丁激增一直是一个关键但复杂的安全挑战,因为如果没有适当测试,大规模安装新软件可能会产生意想不到的后果,包括中断等最坏情况。
由AI推动的现实世界攻击的紧迫性似乎正在增加,无论是老练还是不太熟练的行为者都在寻求扩展能力并降低成本。
例如,在本月早些时候发布的研究结果中,谷歌研究人员表示,他们观察到“著名的网络犯罪威胁行为者”(他们拒绝透露身份)试图利用一个零日(即先前未知的)漏洞,该漏洞是他们使用AI工具开发的,用于绕过开源系统管理平台上的双因素认证。
谷歌迅速通知了开发者,后者发布了该缺陷的修复。但研究人员表示,这一事件是漏洞猎捕格局变化的关键例证。谷歌威胁情报集团首席分析师John Hultquist在谈到攻击者使用AI发现新漏洞并创建利用代码时表示:“我们都认为这已经在发生,而这是我们第一个证明它正在发生的证据。
”Hultquist补充道:“民族国家问题非常严重且真实,但犯罪行为者仍然占组织处理事件的绝大多数,其中许多事件相当严重。犯罪行为者使用零日漏洞的情况一直相当有限,而那些使用零日漏洞的往往非常成功,所以我认为我们不应低估更多犯罪分子手中拥有零日漏洞的影响。
”然而,对于通过漏洞猎捕赚钱的研究人员来说,时代正在变化。
命令行工具Curl在收到大量AI生成的低质量提交后,于1月结束了其漏洞赏金计划(通过第三方服务HackerOne运行)。该组织当时写道:“我们艰难地得出结论,漏洞赏金给了人们过于强烈的动机,去恶意寻找和编造‘问题’,导致过载和滥用。
”并补充说,“我们仍然欣赏并重视有效的漏洞报告。”上周,Linux创始人兼首席开发者Linus Torvalds写道,由于大量且重复的AI漏洞报告,著名的Linux安全邮件列表已变得“几乎完全无法管理”。
然而,今年4月,Curl的创始人兼首席开发者Daniel Stenberg在LinkedIn的一篇帖子中表示,提交质量有所提高。“在过去的几个月里,我们已经停止在curl项目中收到AI垃圾安全报告,”他写道。
“相反,我们收到了越来越多真正好的安全报告,几乎全部借助AI完成。它们以前所未有的频率提交,给我们带来了沉重负担。”4月底,谷歌宣布将彻底改革Chrome和Android的漏洞奖励计划,降低某些类别漏洞的奖励,同时提高其他类别的奖励。
该公司写道:“随着安全研究格局随AI发展而演变,我们正在调整我们的计划,以确保奖励产品中最具挑战性和影响力的漏洞。”
“我认为拥有特殊技能的90百分位漏洞猎手总能有所发现并从大公司获得报酬,”心脏病专家兼漏洞赏金猎人Jonathan Dunn说。“但即使有了AI,我们也需要大力激励道德研究人员在公共基础设施和其他关键系统上寻找可能得不到防御者足够关注的东西。
”目前,大多数组织似乎准备拿出他们能想到的一切解决方案来应对(并利用)漏洞发现加速的问题和好处。“这正在改变漏洞猎捕行业的动态,但它绝对仍然需要人的时间,”云安全公司Edera的首席技术官Alex Zenla说。
本月早些时候,Anthropic推出了HackerOne漏洞赏金计划,供研究人员提交关于公司自身系统和Claude AI模型的发现。然而,一些研究人员越来越认为,结构性防御对于应对加速的漏洞发现是必要的。
换句话说,他们正在为不同类别的漏洞设计数字解决方案,以消除它们或使其在实践中显著更难被利用。“你无法通过打补丁摆脱这个问题,”长期安全工程师兼研究员Niels Provos说。“你需要构建基础设施,让尽可能多的漏洞变得无关紧要。
”