OpenAI暂停Astra模型开发，因其可能具备关键网络攻击能力

OpenAI表示，将暂停围绕正在开发的人工智能模型Astra的“内部活动”，因为它尚未满足公司正在实施的新安全标准。此前，OpenAI最近披露其模型意外入侵了Hugging Face。Anthropic和Meta随后也承认，他们的人工智能模型曾失控并入侵其他组织。

OpenAI因模型被认为过于强大而对其踩刹车。OpenAI表示，其正在开发的Astra模型可能具有“关键”的网络安全能力。该公司称，最近对名为Astra的OpenAI模型的内部评估表明，它在“智能体编码和网络安全方面取得了重大进展”。

“这些结果，加上专家评估，使我们昨晚得出结论：根据我们的准备框架，我们不能排除其具备关键网络能力的可能性。”

以下是OpenAI对“关键”网络安全阈值的定义：根据我们的准备框架，如果一个模型能够在没有人为干预的情况下，识别并开发针对许多加固的现实世界关键系统中所有严重级别的功能性零日漏洞利用，或者仅凭高层次目标就能设计并执行针对加固目标的端到端新型网络攻击策略，

则该模型达到关键网络安全阈值。OpenAI表示，Astra“未参与”Hugging Face事件。根据帖子，OpenAI将对“更高能力的模型及相关活动实施更严格的安全控制”。对于Astra，公司还对所有智能体应用中的“风险行为和错位”实施了“普遍监控”。