AI 见闻
精选· 重要性 4/5

Anthropic 遵循特朗普政府指令关闭 Fable 和 Mythos 模型

Ars Technica — AI··Kyle Orland·约 2 分钟阅读
中文导读

Anthropic 在收到美国商务部指令后,于发布仅数天后紧急关闭了其新模型 Mythos 5 和 Fable 5,原因是政府担忧模型存在越狱风险,可能被用于网络安全、化学和生物领域的恶意用途。

Anthropic 于周五晚上完全关闭了对其 Mythos 5 和 Fable 5 模型的访问,距离它们发布仅过去几天。此举是在 Anthropic 周五晚间收到美国商务部指令后采取的,该指令对这些新模型实施出口管制,限制其在美国境外任何地方的使用。

在周五晚上发布的一则消息中,Anthropic 表示,短期内确保遵守该政府命令的唯一方法是“我们必须立即为所有客户禁用 Fable 5 和 Mythos 5”。其他 Anthropic 模型的访问不受影响。

Axios 的一篇报道援引一位政府官员的话称,政府对有关越狱的报道感到担忧,据报道该越狱绕过了旨在阻止 Fable 5 提示词涉及网络安全、化学和生物学的广泛基于分类器的防护措施。政府据称要求暂停发布这些模型,以便为“国家安全机构”争取时间来“强化”以应对此类威胁。

Axios 的消息来源称,这种强化可能“在未来几周内”完成。在周五晚上的公告中,Anthropic 表示政府仅向其提供了“关于潜在狭隘、非普遍越狱的口头证据”,该越狱涉及让 Fable 5 审查特定代码库以寻找软件缺陷。

该公司表示,它仅看到此类越狱被用于寻找“次要”和“相对简单”的软件漏洞的证据,并且其他公开可用的模型(如 GPT-5.5)在这方面具有类似的能力。

原文出处
Anthropic shuts down Fable, Mythos models following Trump admin directive

本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。

相关阅读