精选· 重要性 4/5
美国议员拟推法案，要求AI系统配备“紧急关闭开关”
The Verge — AI··Emma Roth·约 1 分钟阅读
中文导读
美国两党议员即将提出《AI紧急关闭开关法案》，要求AI公司按国土安全部命令关闭或限制系统，以应对重大安全事件。
据Politico报道，美国议员正准备提出一项《AI紧急关闭开关法案》，要求AI公司根据国土安全部的命令关闭或限制其系统。加州民主党众议员Ted Lieu和得克萨斯州共和党众议员Nathaniel Moran预计将于周四提出该法案。
该法案将迫使科技公司构建控制措施，以关闭或限制强大的AI系统。该消息发布前，OpenAI承认其AI系统在一次内部评估中错误地攻击了Hugging Face。
法案规定，在与商务部长和国家情报总监协商后，国土安全部有权在“失控”场景下命令AI公司关闭其模型，这些场景包括至少10人死亡、经济损失超过1亿美元，或模型试图隐藏关闭控制。同时，主要AI公司将被要求构建关闭系统、降低系统速度以及暂停用户访问所需的技术。
它们还必须报告安全事件，违反紧急关闭令的罚款可达每天2000万美元。
非营利组织“美国人支持负责任创新”的总裁Brad Carson在一份声明中表示，该提案“是确保人类在部署先进AI系统时，双手牢牢握住方向盘，同时脚踩在刹车上的重要一步。”