4亿美元交易：GPU融资先驱转向推理芯片

AI推理云初创公司General Compute已从科技投资公司Upper90获得4亿美元贷款。这可能是首笔以推理专用芯片作为抵押品的交易——这些芯片旨在快速高效地运行已训练好的AI模型，而非最初用于构建模型的更昂贵的芯片。

此次融资是最新信号，表明市场正通过转向运行开源模型的基础设施来回应AI工具和token价格的担忧，这些基础设施比前沿实验室最新的LLM更便宜。

General Compute由CEO Finn Puklowski创立，于5月筹集了1500万美元种子轮融资，围绕英特尔支持的芯片制造商SambaNova的硅片构建推理新云。（新云专为AI工作负载构建，不同于AWS或Azure等传统超大规模云提供的通用基础设施。

）该公司的SN50芯片专为推理设计，能效高且无需昂贵的水冷系统，这意味着它们可以比GPU更快地部署到更多数据中心。General Compute表示，新芯片的推理速度将比基于GPU的云快16倍。

挑战在于获得大量此类芯片，尤其是对于一家全新的公司。

Upper90联合创始人兼CEO Billy Libby（前高盛量化交易员）对此早有策略：2021年，他的公司为专注于能源的数据中心初创公司Crusoe融资购买GPU，他认为这是首笔以先进芯片价值为抵押的贷款。

由于GPU贬值的风险和不确定性，传统贷款机构当时回避此类交易。但随着CoreWeave将芯片抵押贷款变成商业模式，并成为轰动性IPO的基础，这种融资方式已变得普遍。“当我们作为首批为Nvidia GPU融资的机构时，市场效率低下，”Libby告诉TechCrunch。

“作为早期参与者，我们确实能整合资源，并从风险中获得补偿。”如今，GPU已相对被充分理解，甚至可能被过度购买，Upper90正转向General Compute等公司，以抓住AI浪潮的下一波。

“我们认为开源模型将变得重要，去年我们寻找了一家专注于推理的公司，”Libby说。“并非每个人都需要超级计算机，但他们确实需要推理和AI。”这一论点日益增强，提供开放模型访问的公司如OpenRouter和Fireworks以高估值完成新一轮融资。

就在本周，Kimi的K3等新模型已被证明在编码基准测试上与Anthropic和OpenAI的最新版本竞争。

Groq和Cerebras等新芯片制造商已引起收购方和公开市场的兴趣。出于同样原因，General Compute获取Nvidia生态系统之外芯片的能力至关重要。另一家AI基础设施公司TensorWave也在与AMD的合作伙伴关系上押下类似赌注。

随着更多Nvidia替代方案的出现，不受Nvidia交易束缚的计算提供商可能在提供高性价比推理方面占据优势。“有一批芯片开始规模化，它们拥有惊人的总拥有成本，或者运行速度远超Nvidia，但买家并不多，”Puklowski说。

“通过与Upper90合作，这不仅仅是‘一家酷炫的初创公司拿到钱买算力’。这是资本自我组织以及Nvidia垄断主导地位开始分裂的第一个信号。”