美国开源AI实验室Arcee：中国模型并非天生危险

随着中国开放权重AI模型的能力和受欢迎程度增长，关于如何处理它们的争论再次达到白热化。有传言称特朗普政府可能试图禁止它们（尽管尚未采取行动）。与此同时，专有模型制造商，尤其是OpenAI和Anthropic，似乎越来越担忧。

Moonshot AI的Kimi K3或阿里巴巴的Qwen等开放权重模型，其推理的token成本仅为美国大型实验室闭源模型的几分之一。人们担心它们也构成某种威胁。当然，它们威胁着大型专有AI实验室的利润率。

但企业在其自有数据中心运行这些模型时，是否应该担心它们可能成为中国黑客的载体？Arcee的CTO Lucas Atkins给出了否定答案。Arcee正在构建开放模型，为美国公司提供中国模型的本土替代品。

如果有什么初创公司能从中国模型的禁令中受益，那正是Arcee。但Atkins表示，中国的开放模型并不比公司可能使用的任何其他开源软件更危险。事实上，他说，它们甚至为他自己的公司带来了好处。

“很多人认为这类似于中国软件程序——它带有某种意图编码，可以被恶意行为者轻易指挥，”他说，“但这根本不是这些模型的训练方式。”

“Arcee或阿里巴巴根本无法让一个模型在他人环境中运行后还能让我们访问，”他解释道。虽然这些模型大多是所谓的“开放权重”，并非真正的完全开源软件，但源代码（实际在服务器上运行的部分）如果从Hugging Face等开源网站下载，同样在很大程度上是可见且可审查的。

（不可见的是用于训练模型的方法和数据。）大型组织应将任何模型核心纳入其安全测试和检查流程，并通常会针对特定用途对模型进行后训练，检查偏见、毒性、幻觉、对某些主题的敏感性等领域。因此，在人们开始向模型发送提示词之前，他们会使用、优化并理解模型。

用于编码的模型是否可能在其编写的代码中植入恶意后门？同样，虽然理论上可能，但这需要高超的技巧才能实现。“没有理由认为一个足够复杂的攻击者不能训练出一个在任何情况下都表现出色的编码模型，但当面对某种特定代码库时……某些隐藏训练会被激活，”整天训练模型的Atkins推测道。

但他补充说：“我不知道如何做到这一点。”

由于大型语言模型本质上是创造性的，让当代模型在预设的完美上下文和提示词风暴下生成恶意软件的可能性很小。企业使用这些代码的可能性更小。未来是否可能发生？谁也说不准。但企业也在构建与模型无关、使用多种模型的AI应用。

因此，即使中国模型目前性价比最高，企业也不会永远被锁定。“我认为对话不应是关于如何禁止中国模型，而应是如何在美国培育一个良好、开放的生态系统，”Atkins说。Arcee也从中国模型中获益。

由于它们是开放的，这家初创公司“受益于这些模型的优秀，因为我们可以学习它们做了什么，在其基础上构建，然后它们也能学习我们做了什么，”他说。“我们非常尊重构建这些模型的人和个体研究者。”最终，与中国模型竞争的方式“是发布一个更好的模型，”Atkins说。

“我们需要给他们一些谈资。”