英伟达组建开源AI安全联盟，OpenAI与Anthropic缺席

本周在《恐怖谷》节目中，团队讨论了英伟达发起的一个引人注目的联盟，与微软、SpaceX和Palantir等公司一起推动开源人工智能安全。值得注意的是缺席者？OpenAI和Anthropic。

Brian Barrett、Zoë Schiffer和Leah Feiger分析了这一分裂对行业的意义，以及特朗普政府自身对AI看法的转变。此外，我们还讨论了Claude对话如何出现在Google和Bing搜索结果中，以及四头白鲸从加拿大被救出并运送到芝加哥的巨大壮举。

本集提到的文章：- Claude私人聊天记录暴露在Google和Bing搜索结果中- 硅谷对中国AI完全分裂- 特朗普政府在AI监管问题上与自己交战- 将4头白鲸带到芝加哥的野生救援任务内幕- 系统更新通讯：

WIRED最佳内容您可以在Bluesky上关注Brian Barrett（@brbarrett）、Zoë Schiffer（@zoeschiffer）和Leah Feiger（@leahfeiger）。

写信给我们：[email protected]。如何收听您随时可以通过此页面上的音频播放器收听本周的播客，但如果您想免费订阅以获取每集，请按以下步骤操作：如果您使用的是iPhone或iPad，请打开名为“播客”的应用程序，或点击此链接。

您还可以下载Overcast或Pocket Casts等应用程序并搜索“uncanny valley”。我们在Spotify上也有。

转录稿注意：这是自动转录，可能包含错误。Zoë Schiffer：欢迎收听WIRED的《恐怖谷》。我是Zoë Schiffer，特约编辑。Brian Barrett：我是Brian Barrett，执行编辑。

Leah Feiger：我是Leah Feiger，政治与科学总监。Zoë Schiffer：今天节目中，我们将深入探讨过去一周完全席卷硅谷的开源与闭源AI之争。周一，英伟达宣布与微软、SpaceX、IBM等多家公司联手，构建并共享开源AI安全工具。

我们将讨论这场争论为何升温，以及这是否可能成为美国AI实际制造方式的转折点。Leah Feiger：而在白宫，特朗普政府官员对AI的处理方式存在不同意见。我们将讨论目前影响特朗普政府AI政策的一些关键人物，以及他们如何积极为整个国家塑造这方面的对话。

Brian Barrett：我们还将分析为什么Claude聊天记录会暴露在Google搜索和Bing搜索中。对于那些仍在使用Bing的人，你们也在此列。出于有趣的原因，我们会深入探讨。Zoë Schiffer：好了，各位，我们必须谈谈本周早些时候形成的这个奇怪联盟。

所以，基本上英伟达宣布与微软、SpaceX、Palantir和IBM等40多家公司联手，推出一个名为“开放安全AI联盟”的组织。这名字真顺口。既定目标是构建并共享用于AI驱动的网络安全防御的开源工具。

但有趣的是，Google、OpenAI和Anthropic都不在名单上。这一消息紧随上周发生的事件：两名OpenAI智能体在安全测试中失控，入侵了AI平台Hugging Face。

英伟达在宣布该联盟时，直接点名了这一事件，并表示：“这清楚地提醒我们，网络防御者需要开放的前沿智能体系统进行自卫。”这暴露了长期酝酿的争论——我们在播客中已讨论过几次——即美国在此之前基本上放弃了开放权重和开源，转而全力投入专有系统，而现在这正成为一个问题。

Brian Barrett：OpenAI事件确实引发了许多交叉问题。你有开放与闭源AI，你有AI安全及谁负责，还有美国监管。

现在甚至超过1100名顶级情报公司的工作人员签署了一份请愿书，呼吁美国政府帮助“刻意放缓AI发展”以防止其进展过快。他们说：“请让我们慢下来，因为这东西有点失控了。”此外，OpenAI最初的披露甚至不是全部事实。

周二晚上有消息称，其中一个智能体在进入Hugging Face的过程中，实际上侵入了四个不同的平台。所以，这不仅仅是“这意味着什么”的问题，而是它触及了AI世界中许多热点，使许多被推迟的对话达到高潮。

Zoë Schiffer：是的，我得说，看到你提到的那封公开信时，我非常惊讶。档案音频：来自顶级AI公司的1000多名员工签署了一份请愿书，呼吁美国政府帮助“刻意放缓AI发展”。签署者包括Anthropic的CEO以及OpenAI和Meta超级智能实验室的首席科学家。

Zoë Schiffer：我的想法基本上是，我们从Dario Amodei说AI真的很可怕和危险中学到了什么吗？

然后让美国政府对Anthropic施压——你可能实际上会收到，我不知道他们是否希望美国政府按照这封信的字面意思去做，但这确实表明，即使是人们，尤其是从事AI系统工作的人，也对这场竞赛的后果感到害怕。

Leah Feiger：是的，上周我们讨论DC的反应和白宫视角时，确实谈了很多。我对这种分裂一直很好奇。上周我们讨论了这在硅谷真正造成的裂痕：开源与专有AI。毫无疑问，这现在触及了每个领域。

Zoë Schiffer：周六我参加了一个活动，与一群来自DC的AI游说者一起，名为Thinking Machines。Mira Moradi在场，白宫的Michael Kratsios也在。

我惊讶于他们似乎在一个与我旧金山所见平行的AI世界中运作。他们大量讨论开源与闭源。当我与工程师交谈时，大多数人尝试过许多开放模型，但他们仍然发现OpenAI和Anthropic的编码模型Codex和Claude Code要优越得多。

因此，尽管它们贵得多，他们最终还是使用它们。Alex Karp早些时候在电视上谈到了这一点。

他是Palantir的CEO，基本上将这一点作为美国赢得AI竞赛的核心问题。Palantir和英伟达在推进这一计划上有既得利益。更多AI、更多系统意味着更多GPU——这直接有利于英伟达的利润。

Palantir正在政府系统和其他安全至关重要的地方部署AI系统，他们需要在美国技术上这样做，但使用可以调整、修改、更改的系统要容易得多。Brian Barrett：有趣的是，这些奇怪的——不奇怪——但我说“战线”的方式，我不是那个意思，太戏剧化了，但争论线正在被划定。

如你所说，英伟达的Jensen Huang最近与Axios交谈，他明确解释了开放模型的普及为何会使他的公司受益。Jensen Huang，档案音频：首先，伟大的AI、开放模型对整个行业都有好处。

如果有伟大的AI，即使它是开放的，无论它来自哪里，都会有……