OpenAI 担忧开放权重模型，美国应如何应对？

中国实验室 Moonshot 的 Kimi K3 是最大的开放权重大型语言模型，其令人印象深刻的能力引发了一场将两件事混为一谈的辩论：美国人工智能巨头的经济可能性以及 LLM 作为一项技术的未来。

OpenAI 战略未来主管 Dean W. Ball 甚至认为，美国政府应该找到借口，对新模型制造监管恐惧、不确定性和不信任，因为开放权重模型必然会阻碍前沿实验室的资本支出。

人们感到恐慌，Yann LeCun 和 Martin Casado 等科技名人则认为开放软件可以加速创新并与专有项目共存。Ball 很快收回了他的说法，即监管打击是白宫的“最佳策略”，并且开放权重模型必然会减缓技术进步。

然而，Axios 报道称，特朗普政府正在考虑应美国前沿实验室的要求禁止 K3 和其他先进的中国模型。Politico 的另一份报告称，商务部不会很快采取这一措施。

对主要人工智能公司的好处显而易见：开放权重模型在独立基础设施或大型企业内部运行，提供比 Anthropic 或 OpenAI 的领先模型更便宜的智能。如果用户在封闭实验室之外的支出越来越多，这意味着他们对模型训练的巨额投资回报会减少。

这种观点远远超出了 OpenAI 的范围。Snorkel AI 联合创始人、前 Meta AI 总监 Braden Hancock 告诉 TechCrunch：“强大的、前沿水平的开源模型将挤压利润空间，并降低前沿公司的价格。

”“这并不一定意味着 AI 使用量会下降。你知道，显然恰恰相反。”对于没有 Anthropic 和 OpenAI 股份的人来说，这不是问题。AI 仍将激增。那么，政府有什么理由阻止美国人在我们表面上自由的市场上购买某些东西呢？

对中国模型的担忧有多种形式。一是保护美国数据免受中国政府侵害；美国因担心数据收集而禁止进口现代中国电动汽车。但专家倾向于认为，在美国服务器上运行的开放权重模型不太可能将数据泄露回中国，尽管并非不可能。

另一个担忧是模型可能对中华人民共和国存在隐性偏见，但目前尚不清楚这对编码任务意味着什么。第三个常见担忧是中国模型缺乏美国政府（通过不透明的过程）规定的护栏，这些护栏旨在防止美国领先的 LLM 被用于利用封闭计算机系统或制造武器。

然而，同样的护栏可能使美国公司更容易受到攻击：风险投资家兼特朗普顾问 David Sacks 一直在分享美国公司在美国前沿模型拒绝执行任务时转向中国 LLM 以弥补安全漏洞的案例。但限制这些模型的最重要动机是担心如果前沿实验室发展放缓，中国将能够超过美国。

乔治城大学安全与新兴技术中心专注于中国的研究员 Sam Bresnick 表示，AI 对美国军事行动的重要性日益增加，这让美国有理由支持在前沿实验室继续投资 AI。但他说，整个问题令人担忧。

“为什么美国政府的重心应该放在保护这些公司免受基于其起源而被排除在美国市场之外的竞争对手的侵害？”Bresnick 问道。开放 AI 的倡导者表示，前沿公司正在创新和封闭模型之间制造一种错误的二元对立。

Hancock 告诉 TechCrunch：“这些开源模型来自中国的影响越大，与其说是它们偷偷溜进后门，不如说是它们掌握了创新。”“实际上，你的模型最终会拥有一个扩大的劳动力队伍。

PyTorch 成为行业标准是因为它是开源的，因此整个社区都可以为其贡献，而不仅仅是一家公司，它不断发展，而所有其他深度学习库相比之下都消亡了。”Hancock 和其他倡导者担心中国 LLM 将成为国际研究的中心。

美国研究生课程已经主要建立在开放权重的中国模型之上，Hancock 表示学生学习的论文中有一半来自中国机构，而美国前沿实验室越来越不愿广泛分享他们的工作。

“限制开放模型不会让 AI 更安全，”开放 AI 协作平台 Hugging Face 的 CEO Clem Delangue 说。“这只会隐藏风险，将权力集中在少数人手中，并使下一代建设者、研究人员、学术界、非营利组织、政府更难参与让 AI 更安全、更有利于所有人。

”Bresnick 表示，减缓中国速度的真正方法是更注重芯片出口管制。保持美国 AI 领导地位的更好方法是停止向中国出售 Nvidia H200 处理器。他说：“这可能会让我们远离这场关于禁止大量美国公司想要使用的开源技术的棘手辩论。

”部分问题在于 AI 经济学的不确定性。“开放商业模式、专有商业模式——两者都没有弄清楚。

AI 公司正在努力弄清楚如何通过他们的工具赚钱，尤其是在训练成本需要不断上升的情况下，”Bresnick 指出。美国面临的同样挑战也在中国上演，中国 AI 公司也在努力创造收入和获取算力，政府被视为出于政策原因鼓励开放发布，尽管利用它们存在挑战。

包括 Thinking Machines Lab 和 Nvidia 在内的一些美国公司正试图围绕发布开放模型开展业务。

Hancock 指出，Nvidia 会做得更好，“如果有数十或数百家公司构建 AI，而不是只有两三家资本充足到可以自己制造芯片的公司”，这也是其投资开放模型集合 Nemotron 的原因之一。

“关键是美国拥有自己非常强大、便宜得多的开放模型将非常有利，”Bresnick 说。“但这与前沿实验室采取的方法相冲突。”本文由 Rebecca Bellan 补充报道。