OpenAI模型突破Hugging Face系统，对齐与控制之争再起

上周，OpenAI构建的一个未发布模型在内部测试中突破了Hugging Face的系统，大量理论研究突然变得非常实际。这次入侵是首个可验证的AI实验室失去对其模型控制的案例，该模型通过串联多个漏洞获得了本不应拥有的访问权限。

尽管AI行业一致发出警报，但研究人员在应对方式上出现了分歧。对一些人来说，这是一个基本的网络安全问题：沙箱未能限制住模型，Hugging Face的网络安全系统也未能阻止它。

这些问题可以通过修补漏洞，并为能力日益增强、在自主环境中容易失控的AI构建更强大的控制和遏制方法来解决。但另一个阵营持更悲观的观点。对他们而言，AI能力的快速提升意味着试图控制失控模型是一场必输的游戏。

唯一可靠的安全来自确保模型一开始就不试图逃脱——这一挑战通常被称为对齐。从对齐的角度看，问题在于OpenAI的模型试图作弊，解决这一问题比短期遏制措施更为紧迫。从其公开声明来看，OpenAI对两个阵营都予以重视。

该公司迅速修补了入侵中涉及的漏洞，并在事件公开后的声明中同时提到了对齐和监控方法。

但该公司的回应也暗示了一种让许多安全研究人员感到震惊的理念：与其放慢或停止开发更强大的模型，不如专注于为它们建造更坚固的笼子。OpenAI在事件的事后分析中表示：“随着模型承担更长、更复杂的任务，评估遗漏的失败可能带来更严重的后果。

我们将继续努力缩小评估与部署之间的差距：在更长的轨迹上测试模型、改进对齐、建立可干预的监控，并为用户提供更清晰的可见性和控制。”也有理由认为，OpenAI的模型在变得更强大的同时，对齐程度却在下降。

根据OpenAI的系统卡，GPT-5.6 Sol比其前身GPT-5.5更易出现智能体失调。在部署模拟中，该公司还发现该模型比GPT-5.5更可能规避限制、进行破坏性行为以及执行未经授权的数据传输。

这些数据在首次发布时基本被忽视，但在入侵事件后受到重新审视——尤其是因为Sol是涉事模型之一。OpenAI战略未来主管Dean Ball在社交媒体帖子中表示，监控和透明度是控制这些倾向的最佳方法。

“随着模型能力的提升和部署风险的增加，这些问题将变得更加突出，”他说。“解决方案既不是危言耸听，也不是自满。相反，我相信解决方案在于仔细的测量和监控、工程思维以及透明度。

”一位前OpenAI研究员告诉TechCrunch，该公司倾向于关注“外部对齐”而非“内部对齐”——本质上，前者是AI系统理解一套价值观并能令人信服地表达它们，后者是系统真正以这些价值观为核心。

在这种情况下，外部对齐不足以让模型相信它不应该在测试中作弊。OpenAI未回应多次的更多信息请求。对于专注于对齐的研究人员来说，OpenAI的回应还不够好。

关注AI新发展的作家Zvi Mowshowitz认为，OpenAI将事件视为基础设施问题的决定可能有助于解决眼前的网络安全问题，但从长远来看会失败。“这是一个对齐问题，”Mowshowitz在最近的Substack博客中写道。

“这是模型失调，所有OpenAI模型都表现出我们最担心的问题的严重迹象，而且很可能深层次地嵌入到它们的训练中。整个训练流程需要从这个角度重新审视，否则只会变得更糟。”

几位专家告诉TechCrunch，这一事件证明当前的训练方法产生的系统优化的是结果，而非内化人类意图。非营利AI安全研究组织Redwood Research将OpenAI模型在此案例中的行为归类为“追求分数的失调”，即AI模型试图获得高分，而不顾指令、副作用或下游后果。

“具有这些对齐属性的模型可能建立一个虚假成功的‘波将金村’，让一切看起来很好，而实际上并非如此，”Redwood的两位研究员Alex Mallen和Girish Gupta在最近的一篇论文中写道。

追求分数的行为和其他失调并非OpenAI独有。Anthropic已发表多篇论文，讨论其前沿模型在优化或置于自主环境中时出现的涌现失调行为，包括欺骗、奖励黑客和恶意自主。

“我们仍然持续看到模型在被要求执行其能力边缘的任务时试图规避限制并采取欺骗行为，”对齐非营利组织METR的AI安全研究员Neev Parikh通过电子邮件告诉TechCrunch。“在我们的前沿风险报告中，我们相当一致地看到了这种行为，尽管公司努力减少它。

”

OpenAI对Hugging Face事件的回应隐含着一个假设：无论模型核心是否适当对齐，更强大系统的开发仍将继续。当AI公司的商业模式依赖于交付下一代模型时，推倒重来并非真正的选择。

如果可能永远无法确切知道模型是否完全对齐，那么实际问题就归结为如何安全地遏制和控制日益强大的系统。

“对于如何对齐最强大的AI系统，目前还没有很好的理解，但关于如何控制它们，共识要多得多，”OpenAI前安全研究员、Guidelight AI Standards现任首席科学家Steven Adler告诉TechCrunch，

该组织发布标准以避免类似Hugging Face的事件。“每家公司在这方面都有很长的路要走。”