OpenAI与Anthropic主导权之争引发硅谷焦虑

上周我在家乡新泽西州离线，但回到硅谷后，发现每个人再次对人工智能的发展速度感到恐慌。虽然这肯定不是我第一次看到这样的担忧，但这是我多年来见过的最大焦虑爆发。

本周早些时候，OpenAI、Anthropic及其他AI实验室的1000多名员工签署了一份请愿书，主张美国应找到一种方式来“调节”AI竞赛——这是一种外交辞令，意指行业应有权协调暂停AI开发，或在失控时放慢速度。

OpenAI和Anthropic最终也支持了这封信。这份请愿书发布前一周，OpenAI透露其造成了一起前所未有的网络安全事件：在内部测试中，其一个AI智能体入侵了Hugging Face的平台及其他多项服务。

大约同一时间，特朗普政府高级官员开始对一款名为Kimi K3的令人印象深刻的中国开放权重AI模型感到恐慌，据称该模型是从Anthropic的Fable 5中蒸馏而来。

作为回应，除Anthropic外，大多数科技行业签署了英伟达的一封公开信，要求美国政府保护开放权重AI模型，认为它们是封闭模型必要的制衡。这些事件看似一团混乱。

但我认为它们证明了硅谷一种更广泛的世界观正在形成：许多科技业内人士越来越担心OpenAI和Anthropic的主导地位。我最近采访的研究人员和投资者将AI行业描述为一场双马竞赛，且似乎没有放缓迹象，这令人担忧。

但不同群体有自己的担忧理由。一些OpenAI和Anthropic员工认为，他们的雇主在争夺市场过程中行为鲁莽，AI行业可能很快会开发出当前安全方法无法控制的模型。他们在本周“调节前沿”请愿书附带的公开声明中表达了这一点。

Anthropic研究产品经理Jeremy Hadfield在请愿书附带声明中表示：“我看到了AI无情的步伐如何让社会难以跟上，以及它如何给实验室带来在安全上偷工减料的压力。

”对一些AI员工而言，Hugging Face事件是一个警告，表明OpenAI在降低其最强大AI技术风险方面的努力已经不足。诚然，该事件发生在OpenAI测试AI模型寻找软件漏洞的能力时，公司故意关闭了旨在限制其网络安全能力的防护措施。

OpenAI在事后分析中表示，这些测试在沙箱中进行，但模型最终获得了对开放互联网的访问权限。一些专家此前告诉WIRED，OpenAI的安全实践本应更加强健。硅谷的其他群体更担心权力而非安全。

风险投资家、科技高管和初创公司创始人担心OpenAI和Anthropic将成为下一代苹果和谷歌，迫使其他科技行业按他们的规则行事。

认为几乎没有利润的私人初创公司表现得像垄断企业，这有点奇怪，但这就是许多人——包括Mark Zuckerberg——开始看待这两个最大AI实验室的视角。Meta CEO本周在《华尔街日报》发表专栏文章，警告AI行业权力集中，认为超级智能应广泛分布。

Zuckerberg可以说是口是心非——Meta最近决定停止开源其最佳AI模型，转而通过付费API和订阅服务提供，就像OpenAI和Anthropic一样。Meta CEO可能试图向监管机构和行业传达特定信息。

解读其言外之意，我认为他基本上在说“我们需要确保OpenAI和Anthropic不会在AI领域独大”。Zuckerberg远非第一个提出这一担忧的科技领袖。

我不相信这些专栏和请愿书能对阻止OpenAI和Anthropic的迅速崛起起多大作用。经济的大部分领域都指望这两家AI巨头成功IPO，我不确定任何人——更不用说特朗普政府——有兴趣搞砸这一点。

但科技行业对封闭AI开发的步伐越来越紧张，且这种情况不太可能很快改变。

为什么AI视频初创公司进入机器人领域

尽管如此，我仍然不会忽视开放模型的优秀程度。德国初创公司Black Forest Labs发布了全球最受欢迎的开放权重AI图像和视频生成器，上周宣布将发布一款也能为机器人提供动力的新模型。

该初创公司计划在未来几周内发布Flux 3的开放版本，开发者可用其生成图像、视频和音频，以及预测机器人动作。

Black Forest Labs CEO Robin Rombach本周早些时候接受我采访时表示：“我们显然正从纯图像生成实验室迈向前沿多模态AI实验室，这对我来说非常重要。我们展示了研究团队一直以来的直觉：这些模型非常通用，并对现实世界有了扎实的理解。

”

Black Forest Labs是最新一家将其AI视频模型应用于物理世界的初创公司。

今年早些时候，OpenAI完全搁置了其AI视频生成产品Sora，并将其背后的团队并入公司秘密的机器人部门。其他AI视频初创公司，如Runway，近年来也推动了机器人技术的发展。这些公司普遍押注AI视频模型能够理解现实世界的物理规律。

虽然这是该技术的一个迷人应用，但也可能代表公司从开发成本极高的模型中创收的一种方式。如今大多数机器人基础模型都是视觉-语言-动作模型——谷歌的Gemini Robotics最为知名——它们将视频输入与书面指令结合，输出电机命令。

Rombach表示，Flux 3完全跳过了语言层，直接将视频翻译为动作，他认为这种方法更稳健。Black Forest Labs正与另一家初创公司Mimic合作，打造Flux 3的定制版本，为奥迪工厂的汽车制造机器人提供动力。

Mimic首席产品官Stephan Gravert表示，目前正在与奥迪测试和部署Flux-Mimic AI模型。他的团队发现，该模型特别擅长驱动机器人手将柔性部件（如车窗密封条和电缆）安装到汽车上。

Gravert表示，Mimic计划在今年年底前与奥迪全面推出该技术。

我不得不向Rombach询问关于开放与封闭AI的争论，尤其是因为Black Forest Labs签署了英伟达的公开信，要求美国政府保护开放权重模型。“在我看来，全面禁止开放权重模型是愚蠢的，”Rombach说。

“你真的会遇到透明度、安全、主权和创新速度方面的问题。我认为这将是一个非常短视的决定。”

Rombach有充分的理由关心这个问题。Black Forest Labs的联合创始人长期以来以少胜多，用远少于Meta、谷歌和OpenAI等美国AI巨头的资源与之竞争。

但它可能无法无限期这样做：Rombach告诉我，这家初创公司使用了比以往更多的算力来训练Flux 3，现在拥有超过100名员工。Black Forest Labs去年以32.5亿美元估值融资3亿美元，但我感觉它很快需要更多资金才能跟上。

这是Maxwell Zeff的Model Behavior新闻通讯的一期。