前沿模型成本与开放权重流行推动模型路由需求

前沿模型成本和开放权重的流行正在推动对模型路由的需求Glean首席执行官Arvind Jain解释了为什么模型路由有助于控制组织的人工智能成本，以及人类反馈如何大规模循环改进其路由系统。

前沿模特公司之间的激烈竞争，加上Kimi K3和Qwen 3等开量级模特的实力不断增强。8-Max，模型路由已成为人工智能部署的关键部分。我们刚刚看到Stripe以超过70亿美元的价格收购了OpenRouter，但这一趋势在企业中同样火爆。

Glean由前谷歌杰出工程师Arvind Jain共同创立和领导，专门致力于将人工智能带入大型组织。它的最后估价为7美元。去年6月，F轮基金筹集了1.5亿美元，为2B。今年，该公司的年度经常性收入（ARR）达到3亿美元，在15个月内增长了三倍。

Glean任务的一部分是选择每个任务使用哪个模型-或者实际上是否需要LLM。“Glean的一个重要目标是避免使用LLM来完成我们不需要的任务，”Jain告诉潜伏空间。“有时你会在Glean中看到查询，其中人们正在将两个数字相加或将两个数字相乘。

他们本可以使用计算器来做到这一点。”但格林主要试图做的是将贾恩所说的“一位真正强大的个人同事”带给企业员工。这意味着成为领先LLM的元工具。“你可以将今天的Glean视为ChatGPT、Claude、Gemini、Grok的超集，”Jain说。

“我们日常使用的所有这些不同的人工智能产品，Glean将所有产品的力量结合在一起，融入了一种体验。”对于企业来说，将人工智能技术引入组织只是挑战的一半。另一半是将组织知识带入人工智能系统。贾恩说：“最终，我们的业务是深入了解您的数据、知识和信息，以及您公司内部的工作方式。

”如何在Glean中完成模型布线那么模型路由在实践中意味着什么呢？基本上，Glean提供了三个级别的型号选择：员工可以明确选择模型。管理员可以限制模型或施加使用限制。Glean的自动模式为每个任务动态选择模型。

事实证明，Glan的客户大多出于经济原因选择自动模式。“为什么人们谈论模型路由？他们为什么对此感到兴奋？这主要是因为成本，”贾恩告诉我们。

Glean的另一位联合创始人、工程主管Tony Gentilcore最近声称，Glean“成本效益比Claude Code高出4倍”，“平均价格为0美元。每项任务45美元，而每项任务1美元。克劳德·考沃克（Claude Cowork）84分。

他将其归因于Glean的“治理和路由能力”。”就个人而言，我们中的许多人从每月20美元、100美元或200美元的LLM提供商订阅中获得了巨大的价值。但对于企业来说，每个用户的成本很容易失控。“人工智能模型越来越昂贵，”贾恩说。

“就像，如果你看看Opus或GPT的最新型号，最先进的型号。它们不仅非常强大，还可以运行比之前的模型复杂得多的任务。但就每个代币而言，它们更贵--有时是之前型号价格的两倍或四倍。然后用户实际上使用它们来运行更长的任务。

因此，按每个用户计算，您的支出是去年的10倍、20倍甚至更多。所以成本上涨了很多。”人类反馈循环Glean崛起的另一个关键因素是它能够了解普通商业用户如何使用人工智能。该产品可能作为“同事”部署到每个员工，并且还用于在所有部门和职能部门中构建和部署代理。

Zillow报告称，在其客户中，Booking的7，000名员工采用了80%。com，“Glean成为公司范围内采用的第一个人工智能平台。“这种渗透让Glean对人工智能如何在企业中使用有了令人羡慕的视角。

贾恩说：“因此，我们正在广泛地观察人们实际上正在用人工智能做什么。”“我们开始了解他们何时使用人工智能执行不同类型的任务，他们首先选择什么模型，何时他们不满意，何时他们真正升级到其他模型，而这些模型实际上会为他们提供正确的结果。

”这种大规模的人类反馈循环有助于改进模型路由系统。

沃尔多正在收集原材料Glean架构的另一部分是一个名为Waldo的模型，Jain将其描述为位于大型语言模型之上。Waldo于四月份推出，称其为“Glean的第一个代理搜索模型。

”在一篇技术博客文章中，Waldo被描述为一种用户查询的过滤过程：它“决定如何分解问题、使用哪些工具、接下来阅读什么，以及何时有足够的证据移交给前沿模型以获得高质量的答案。”这意味着模型路线是在Glean确定Jain所说的任务所需的“原材料”之后进行的。

“我们能够在不燃烧LLM代币的情况下组装完成工作所需的原材料，”他补充道。其必然结果是，具有更好上下文的更便宜模型可能会优于加载不相关数据的前沿模型。开重模型的迅速崛起Jain证实，企业现在对开重模型有浓厚兴趣，主要是出于成本考虑。

但这只是在过去几个月发生的。“去年，[开源LLM]的使用量很少，没有人真正认真考虑开源，”他说。部分原因是许多在美国境外开发的开源模型都受到了“耻辱”。但突然之间，企业客户的兴趣上升了。

贾恩说：“因此，在过去的三个月里，由于人工智能变得如此昂贵，企业开始发现维持这些人工智能投资是站不住脚的。”“鉴于开源执行任务的成本要低一个数量级，它引起了很多兴趣。今天，我可以说，在大多数企业中，他们都在考虑将开源模型作为其人工智能战略的关键部分。

”更重要的是，组织往往不再仅仅依赖一两个提供商-而开放重量模型的兴起正在推动这一趋势。贾恩说：“没有人愿意再只依赖一个或两个模型提供商，也没有人认为没有开源就能生存。”Evals在2026年，如果不讨论评估--评估LLM结果的质量，就无法就人工智能进行认真的对话。

我询问Glean如何进行evals，以及如何将其反馈到模型路由系统中。Jain表示，他们拥有“内部测试系统”，可以在不同查询类中比较现实世界的工作负载和替代选项。

因此，他们让模型选择一条路线，并同时尝试用“一些其他模型”完成相同的任务，这些模型可能稍微便宜一点，或者稍微贵一点。”然后，Glean使用“基于人工智能的法官”来确定“模型路由器的准确性如何。

”“因此，这种持续学习会随着新的现实世界流量而更新，基本上正在发生的事情是，你让模型路由器为用户完成工作，但在幕后你运行相同的任务，”贾恩解释道。他补充说，这样做只适用于现实世界使用量的“一小部分”，但以Glean的规模来看，这足以帮助训练和改进模型路由器。

从企业搜索到端到端人工智能平台我们将在潜伏空间上监测的趋势之一是人工智能系统如何在企业内实施，以及其中一些组织如何全面实现人工智能原生化。Glean是一家特别有趣的公司，可以监测这些趋势，因为它是最早面向企业的人工智能公司之一。

它成立于2019年初，最初是为了解决企业搜索问题。正如贾恩所说，格林是“第一个与tra合作的球员