Writer发布新AI模型及升级智能体框架以降低token成本
Writer推出新旗舰模型Palmyra X6,并升级智能体框架,旨在将客户基础任务成本降低50%,应对企业AI部署成本飙升的痛点。
在整个AI行业,用户越来越意识到部署成本可能有多高,并感到削减开支的新紧迫性。尽管开源模型提供了显著更低的每token成本,但为特定任务找到合适的模型可能很困难。
周四,为营销人员提供AI工具和智能体的Writer公司推出了一款名为Palmyra X6的新旗舰模型,旨在为其用户解决这一问题。作为Z.ai开源模型GLM-5.2的训练后变体,Writer表示新系统应以更低的价格提供可部署的能力。
该公司估计,新模型结合公司框架基础设施的改变,将为客户的基础任务成本降低高达50%。除新模型外,公司还对其标准智能体框架进行了重大升级。这两项功能将从周四起向Writer客户开放。
首席执行官May Habib告诉TechCrunch:“我认为企业绝对厌倦了追逐下一个基准测试。他们希望成本持平,但似乎没有人能做到这一点。”
新方法特别强调复杂的多步骤任务,执行更快且消耗更少token。Writer将框架优化视为实现这一目标的关键杠杆。Writer研究人员最近的一篇论文支持了这种方法,测试了多种不同模型中框架效率的微小变化。
研究发现,在许多情况下,框架的改变比模型选择更能可靠地降低成本,测试中成本平均下降40%。研究人员写道:“框架是这样一个组件,其效率在一个组织运行的每种模型(现在和未来)中都会倍增。
”对于Writer的客户来说,体验仍然是模型无关的:Palmyra X6将与其他Writer模型或通过Azure或Amazon Bedrock导入的外部模型并列。
但Habib也认为,削减成本的推动力正导致对主要AI实验室的更广泛不信任,这些实验室有经济动机推高token使用量。Habib告诉TechCrunch:“这里的成本爆炸对客户来说是前所未有的,CIO们放弃这些实验室的程度也是前所未有的。
”他补充说,AI实验室“并不深入了解如何帮助企业从AI中获益。”
本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。