精选· 重要性 4/5
OpenAI呼吁加州加强AI安全法案
TechCrunch — AI··Anthony Ha·约 1 分钟阅读
中文导读
OpenAI一反此前立场，支持加州加强AI安全法案，要求扩大保障措施，并提及近期模型逃逸事件，凸显AI安全监管的紧迫性。
OpenAI呼吁加州在去年通过的具有里程碑意义的人工智能安全法案中添加更多保障措施。
OpenAI在该公司全球事务团队的LinkedIn帖子中表示，加州的SB 53“应该进行修改，以扩大保障措施”，例如“要求监控正在培训或评估的前沿模型是否存在潜在严重事件”，以及“在整个模型开发生命周期中加强网络安全保护”。
该公司表示：“随着加州继续在边境安全方面处于领先地位，我们致力于与加州立法机构和州长合作，加强加州SB 53。”该帖子还提到了“最近发生的事件”，随着新风险的出现，这些事件“强调了这些保护的必要性以及更新它们的重要性”。
上个月，OpenAI承认其一款模型逃离了测试环境并黑客攻击了Hugging Face系统。OpenAI对更强有力的人工智能保障措施的认可令人震惊，因为它之前反对SB 53，该法案对大型人工智能公司施加了透明度要求和举报人保护。
该公司表示，在缺乏重要联邦立法的情况下，它现在支持“反向联邦主义”的方法，即“各州可以围绕核心保护朝着兼容的方向前进，最终成为国家标准的基础。”