Anthropic再捐2000万美元支持AI安全政策倡导

Anthropic将向Public First Action再捐赠2000万美元。我们额外捐赠2000万美元，使总支持金额达到4000万美元。

Public First Action是一个无党派组织，致力于对公众进行人工智能教育，并与认真制定合理AI保障措施的共和党人、民主党人和独立人士合作。

我们的两笔捐款均专门用于支持Public First Action的公共教育和政策使命，不得用于影响任何联邦、州或地方公职候选人的选举。我们于2026年2月进行的第一笔捐款旨在推动维持有意义的保障措施、维持美国AI领导地位并要求构建最强大AI模型的公司保持透明度的政策。

此后数月，这些政策的理由愈发充分。为何是现在？AI模型持续快速进步。今年早些时候，Claude Mythos Preview发现了数千个高严重性软件漏洞，包括每个主要操作系统和浏览器中的一些漏洞。

我们选择通过Project Glasswing将其发布给有限的网络防御者，以便可信的参与者能在任何人利用这些漏洞之前找到并修复它们。若落入坏人之手，此类模型可能威胁国家所依赖的关键系统，从医院到电网。

更强大的模型将带来诸多益处——例如加速药物发现、开发我们从未能治疗的疾病疗法、加速科学进步以在十年内实现一个世纪的进展、延长人类寿命，并推动经济增长让所有人共享繁荣——但我们需要首先确保免受风险，才能实现这些益处。

政府需要时间建立既能获取利益又能遏制风险的能力，因此他们必须现在就开始。符合当下需求的政策。我们长期主张前沿AI公司应就其模型的能力及风险管理方式保持透明。我们支持多个州新通过的法律，这些法律要求AI开发者提高透明度。

但鉴于最强大模型的能力进步之快，仅靠透明度是不够的。我们需要政策制定者和候选人提出缓解风险的措施。这是我们在Anthropic高级AI框架中阐述的核心内容，该框架是迄今为止任何前沿实验室或政策制定者提出的最强有力的政策提案。

政府应能验证公司的安全声明，通过民事处罚强制执行安全实践，并最终有能力减缓或阻止构成灾难性损害严重风险的AI模型部署。

前沿AI开发者应对构成灾难性风险的模型进行测试，向公众透明地公开其发现，提交独立评估，并维护稳健的安全计划。随着AI进步步伐加快，AI的国家安全重要性日益增长，正如我们在《2028年：全球AI领导力的两种情景》中所概述的。

美国和我们的民主盟友目前拥有优势，但这种领先地位是脆弱的。为确保美国AI持续领先，我们支持加强先进芯片和半导体制造设备出口管制、遏制非法模型访问和蒸馏攻击的政策努力，以防止民主国家的最优技术被用于推进威权AI。

接下来是什么？这些政策框架只是一个起点。我们对Public First Action的捐款是我们试图提升这一紧迫政策辩论重要性的方式之一。相关内容：申请Anthropic的AI for Science罕见疾病研究资助。

Anthropic正在发布一项专门针对罕见遗传疾病的AI for Science应用重点征集。被接受的申请人将在六个月内获得高达50,000美元的Claude积分，旨在建立一个研究社区，探索AI如何重塑我们对罕见疾病的理解。

阅读更多。