开量级人工智能正在经历Kubernetes时刻。我们不要毁了它
开重模型正在成为下一个人工智能生态系统的基础。美国应该参与其中,而不是孤立自己。我以前看过这个故事的一个版本。2013年,我与他人共同创立了Mesosphere,这是一家开源云原生软件公司。
我们基于我的联合创始人Ben Hindman在加州大学伯克利分校帮助创建的Apache Mesos。我们后来围绕Mesos构建了DC/OS(数据中心操作系统),将其作为开源发布,并通过具有支持和专有功能的企业发行版将其商业化。
经过几年的大幅增长,Kubernetes颠覆了我们。它是更新的、完全开源的,并迅速激发了云原生社区的活力。许多世界上最好的分布式系统和基础设施工程师都将自己的职业生涯押在了上面,甚至我们的一些最忠诚的社区成员也换了马。
一旦发生这种情况,创新就转移到了Kubernetes。无论平台缺少什么,都会有人开始构建:网络、存储、可观察性、部署工具、策略引擎。大量初创公司诞生,传统供应商也加入其中。几乎在生产环境中运行Kubernetes所需的每个组件都以开源形式提供。
随后,包括Mesosphere/D2 iQ、Rancher、Red Hat和Nutanix在内的云提供商和公司围绕集成、企业功能、支持和运营开展业务。Kubernetes之所以获胜,不仅仅是因为其存储库是公开的。
它成为一个中立的基础,工程师,云提供商和企业供应商都可以扩展以满足客户的需求。公共接口和供应商中立的治理给了每个人信心,他们可以在此基础上进行构建。那就是一旦一个人们可以定制的开放平台成为行业的重心,没有一个单一的供应商可以与围绕它的创新速度相匹配。
我认为人工智能正在接近同一点。开放权重将模型转变为平台首先,术语注释。我们随意称之为“开源”的大多数模型更准确地描述为开放重量。您可以下载和修改训练后的参数,但通常无法获得训练数据和完整的训练过程。
这不符合开源倡议对开源人工智能的定义。区别很重要。然而,它并不能阻止围绕人们可以运行和修改的文物形成生态系统。Kubernetes的类比并不完美。Kubernetes贡献者可以检查和更改实际来源,改进可以返回到共享的上游项目中。
模型微调通常不会这样工作。前沿权重可能是可下载的,但仍然需要昂贵的硬件,并且没有相当于CNCF的人工智能提供中立治理和通用接口。这些都是真正的差异。
常见的机制是,足够强大的便携式基片可以吸引远远超出其原始创造者单独构建的互补创新。使用开重模型的第一个原因是自我托管。公司希望控制其数据。他们希望在自己的云或数据中心中运行模型。随着使用和推理成本的增长,他们也越来越希望控制成本。
这种需求产生了一个健康的开源服务栈:vLLM、SGLang、lama。cpp、Ollama、MLX等。但自助托管只是开始。开放权重将模型本身变成开发人员可以调整和重新分发的东西。Hugging Face现在拥有超过200万名公共模特。
围绕Qwen和Gemma等热门家庭,开发商制作:- 用于不同硅架构和规模的量化和转换的权重;- 用于编码、医学、法律、数学和代理工作流程的微调和LoRA适配器;- 结合不同微调的模型合并;- 适用于运行时的调整,例如TensorRT-LLM、vLLM、MLX等。
直到最近,人们很容易忽视边境的这种活动。开放模型很有用,但基本模型对于最困难的编码和代理任务来说还不够好。这一差距正在迅速缩小。Z. ai发布了GLM-5。2具有麻省理工学院许可证下的公共权重。
其自己的评估报告62。SWE替补Pro为1%,而58。GPT-5为6%。5,尽管结果因基准和代理利用而异。
Moonshot表示,Kimi K3已接近长期编码的封闭前沿,并承诺于7月27日发布其权重。人工分析支持了这一性能主张,并与作品4一起评分。8和GPT-5。5在其独立评估中。一旦基础模型足够好,生态系统就可以复合。
我期待围绕代理运行时、编码工具、沙箱、评估、可观察性和专业微调的新项目。它们合在一起可以成为一个生产级堆栈:一个在开源软件上运行的开放重量模型,可根据团队的工作量、硬件和经济性进行定制。该堆栈会在每个基准上击败每个封闭模型吗?
可能不会。但随着时间的推移,我不会押注任何一个供应商在创新上会超过联合开放生态系统。前沿技术是一场人才战争,开放的生态系统为世界各地的人才提供了在相同的基础上再接再厉的理由。禁止中国模特将是自己的目标这让我们回到了华盛顿当前的辩论。
据报道,在Kimi K3和其他有实力的中国模特发布后,特朗普政府正在考虑限制中国开胸模特。潜在禁令的具体形式仍不清楚。广泛禁止美国研究人员和公司使用中国开放重量模型将完全不同。
这将切断美国与一个已经吸引了许多世界上最优秀的人工智能研究人员和工程师(包括大量中国研究人员)的生态系统的联系。世界其他地区将继续建设。美国开发商将被排除在外。我们已经在Qwen身上看到了这种动态。
Hugging Face报道称,过去一年中国模特下载量占模特下载量的41%。如果最好的开放式粉底模型越来越多地来自中国,那么创新将像Kubernetes周围积累一样在它们周围积累。美国应该如何竞争美国应该在这个生态系统中竞争,而不是退出它。
发布前沿级的美国模式美国实验室需要在初创公司可以实际开发的许可证下发布前沿级开放重量模型。已经取得了进展。英伟达的Nemotron型号可在英伟达自己的许可证下商业使用。Thinking Machines在Apache 2下发布了Inkling。
0,OpenAI与gtt-oss以及Google与Gemma 4也是如此。但OpenAI和谷歌最强大的模型仍然处于关闭状态,大多数美国前沿实验室的模型也是如此。利用采购创造开放市场政府应该利用采购来创造对便携式、可互操作系统的需求,而不是永久依赖一家API供应商。
国防部以前也这样做过。Platform One提供开源工具和企业产品,不同的军事计划可以在此基础上构建。
同样的剧本可以加速围绕开放重量模型的创新。构建堆栈的其余部分美国公司需要构建剩余的堆栈。初创公司可以定制和扩展模型,将其嵌入产品中,并提供服务、工具、支持和运营层。我们领先的硅公司将不断改进硬件。
超尺度者和新云层可以为模型及其生态系统服务。制定标准而不是禁止模特安全是限制的最有力理由,但全面禁令过于直率,会牺牲整个生态系统的准入。更好的方法是对前沿模型进行独立测试和标准。这个类比并不准确:Kubernetes一致性测试的是兼容性,而不是安全性。
但治理模型很有用。德米斯·哈萨比斯提出了美国主导的独立立场
本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。