Anthropic CEO回应：不反对开放权重模型，但担忧中国AI

Anthropic创始人兼CEO Dario Amodei周一下午回应了业内传言，即他的公司以某种方式支持美国政府禁止中国开放权重模型，或可能全面禁止开放权重模型。

“任何读过我过去文章的人都应该知道，我并不认为此类禁令是有用的措施，但让我明确说明，以免有任何疑问：Anthropic从未主张禁止开放权重模型，”他写道，并强调了这一点。

他的回应是在Nvidia创始人兼CEO黄仁勋上周五在X（他在该平台上的第一篇帖子）上分享了一封公开信之后发布的，信中Nvidia以及包括Hugging Face、Meta、Microsoft、

Mistral和Nvidia在内的一长串其他AI公司敦促政策制定者不要对开放权重AI模型实施广泛的“过早限制”。虽然这封信没有具体提及中国，但业内的争论集中在指控中国AI实验室经常通过窃取美国同行的知识产权来增强能力。

一种方法是蒸馏，即一个AI用提示词轰炸另一个模型以了解其工作原理。Amodei在周一发表的博客文章中说，他认为开放权重模型与中国构成的威胁属于不同的范畴。

“不具备危险能力的开放权重模型是一种公共产品：除了运行它们所需的算力之外，它们不花费任何成本，并且为企业、开发者和研究人员提供价值。”Amodei在帖子中说，他长期以来一直对AI感到担忧，但使用开放权重模型的企业，即使是来自中国的企业，并不在其中。

他担心的是“威权政府”将构建比美国更强大的模型，以实现“永久军事优势”和/或利用AI镇压本国人民。他说，中国共产党并不是他唯一担心的威权政府，但它是“最有能力的”。Amodei还表示，他担心AI将引发“生物攻击”，而不仅仅是网络安全攻击。

而且，在他看来，开放权重模型在这些场景下更危险，因为很难对其施加护栏或监控其使用。他还引用英国AI安全研究所的一份报告指出，一旦开放权重发布，就无法撤回。这与开源倡导者的观点相悖：他们认为，访问不受单一实体控制的强大开放模型有助于防御者保护自己。

Amodei列出了一些他认为会阻碍中国的行动，包括限制其获得强大芯片（这已是美国长期政策）以及呼吁正式打击蒸馏。

美国已威胁称，如果确定存在涉及美国模型的知识产权盗窃，将对中国实施制裁。有趣的是，Amodei还表示，他支持日益增长的努力，其中一些由美国主导，以创建一个模型安全测试组织，特别是如果包括中国在内的整个世界都同意接受其测试。

“我认为这个想法实际上已接近共识：我对特朗普政府近几个月朝这个方向迈进感到鼓舞，”Amodei写道。“请注意，要有效，测试必须是全球性的，这意味着即使是中国共产党也需要参与。

我认为这实际上可能是可能的……围绕防止AI生物武器进行有限合作可能是可能的，因为这也符合中国的利益。”