OpenAI公布AI黑客事件后的安全改进措施

OpenAI在7月份有消息称其人工智能突破沙箱环境并意外黑客攻击了Hugging Face后宣布了安全更新，包括对其研究环境、监控和对齐技术的改进。

该公司已经叫停了一款新型号Astra，它认为该型号可能具有“关键”的网络安全功能，该公司表示，在加强安全性的同时，它暂停了对其“最新型号”的强化学习（RL）培训两周。该公司“计划中最大规模的边境RL运行仍被搁置。

”OpenAI在其人工智能被黑客攻击Hugging Face后做出了新的安全改变OpenAI正在更新其研究环境、监控和对齐技术，以避免再次发生安全惨败。OpenAI正在更新其研究环境、监控和对齐技术，以避免再次发生安全惨败。

对于其前沿模型研究，OpenAI现在需要为“执行模型生成或其他不受信任的代码”的工作负载配备更强大的沙箱，并拥有更多控制来“将高风险和不受信任的工作负载与互联网隔离”。它还更新了其研究环境，以“删除潜在脆弱的共享服务，减少长期特权，并改善安全和信任边界”。

”OpenAI表示，作为该公司扩大监控设置的一部分，OpenAI现在的目标是“在相关活动浮出水面后30分钟内”发出警报。

如果警报后呼叫的人无法在30分钟内“最终”确定警报是否为假阳性，“这些团队预计将暂停活动。”OpenAI还表示，它正在“将我们的核心对齐技术应用到培训过程的更多阶段”，包括“更好地检测和阻止不安全行为”的奖励模型，以及“更诚实地了解其行为、能力和限制”的训练模型。

”自从发现Hugging Face漏洞以来，Anthropic和Meta还发现他们的人工智能模型曾黑客攻击过其他组织。