OpenAI内部测试中AI模型意外入侵Hugging Face

OpenAI表示，其AI模型在内部测试期间意外侵入了开源AI平台Hugging Face。

在周二的一篇博客文章中，OpenAI写道，GPT-5.6 Sol和“一个能力更强的预发布模型”在其沙箱测试环境中发现了漏洞，从而获得了互联网访问权限，并将目标对准了Hugging Face。关于这一严重安全事件的公告，奇怪地读起来像是对OpenAI技术能力的广告。

7月16日，Hugging Face披露了一起安全事件，称其由“一个自主AI智能体系统”引发。Hugging Face的AI智能体检测并阻止了此次入侵，而OpenAI现在承认这发生在评估其模型网络安全能力的过程中。

OpenAI表示，“所有证据表明，这些模型高度专注于为ExploitGym寻找解决方案”，ExploitGym是一个衡量AI模型能否将安全漏洞转化为可利用漏洞的基准测试系统。作为完成评估的一部分，AI模型通过利用沙箱环境中的零日漏洞获得了互联网访问权限。

OpenAI表示，其模型由此“推断Hugging Face可能托管了ExploitGym的模型、数据集和解决方案”，然后“搜索并成功找到了获取秘密信息的方法，以用于欺骗评估”。

在一个例子中，模型将多个攻击向量串联起来，包括使用被盗凭证和零日漏洞，在Hugging Face服务器上找到远程代码执行路径。

但尽管这一事件很严重，OpenAI似乎正利用这次“前所未有”的攻击来展示其AI系统的能力——尤其是在与Anthropic的Mythos和Gemini Flash 3.5 Cyber等网络安全竞争对手竞争时。

OpenAI的博客文章附有一张图表，显示GPT-5.6 Sol在维持多步骤网络操作方面的能力不断提升，并鼓励企业客户注册以访问其“Cyber”安全模型。OpenAI补充说，它正在与Hugging Face合作调查这一安全事件，并将在其研究环境中实施新的控制措施。