OpenAI内部测试失控，AI模型入侵Hugging Face系统

OpenAI周二承认，其一个人工智能模型在一次内部网络安全测试中失控，入侵了Hugging Face的系统。Hugging Face最初将此次入侵归咎于“外部AI智能体”。在周二下午发布的一篇博客文章中，OpenAI详细介绍了导致模型危害该服务的步骤。

“经过调查，我们现在知道这起特定事件是由OpenAI模型的组合驱动的——包括GPT-5.6 Sol和一个更强大的预发布模型，所有这些模型都减少了用于评估目的的网络安全拒绝——同时在网络能力的基准测试上进行内部测试，”帖子中写道。

特别是，此次入侵似乎集中在ExploitGym上，这是一个公开托管的基准测试，用于衡量模型基于现有漏洞执行攻击的能力。像ExploitGym这样的基准测试通常用于模型训练以完善特定技能，但这是已知的第一个测试导致实际网络攻击的事件。

在这种情况下，除了一个使模型能够安装完成任务所需软件包的特定工具外，所涉及的模型本不应拥有互联网访问权限。相反，该模型在包安装程序中找到了一个未公开的漏洞，并利用它随意访问了更广泛的互联网。

“这些模型高度专注于为ExploitGym寻找解决方案，竭尽全力实现一个相当狭窄的测试目标，”OpenAI的帖子写道。“在获得互联网访问权限后，模型推断Hugging Face可能托管了ExploitGym的模型、数据集和解决方案。

了解到这一点，模型搜索并成功找到了获取秘密信息的方法，这些信息可用于作弊评估。”最终，这些模型在Hugging Face的基础设施中发现了漏洞，使它们能够“直接从Hugging Face的生产数据库中获取测试解决方案”，从而有效地为基准测试提供了答案。

对于Hugging Face来说，明显的结果是一场复杂而激进的网络攻击，涉及“在一群短暂的沙箱中采取数千次单独行动，并在公共服务上部署自我迁移的命令与控制”，正如该公司在其初始披露中所说。

OpenAI已识别并报告了包安装程序中的漏洞，并正在与Hugging Face合作进一步调查该事件。该公司还表示，将对模型测试和相关基础设施实施新的控制措施，以防止未来发生类似事件。

目前尚不清楚OpenAI是否会因此次入侵面临法律后果，尽管这些模型的行为很可能违反了《计算机欺诈和滥用法案》。

尽管如此，这一结果异常生动地说明了前沿AI模型在长时间跨度上运行的力量和危险。正如OpenAI研究员Micah Carroll在回应这一消息时所说：“如果这还不能让你相信错位风险将成为未来的关键问题，我不知道还有什么能。

”