天才的失败：AI实验室的智力傲慢

当天才失败时——AI实验室的智力傲慢从Situational Awareness的爆仓到材料科学再到HuggingFace被黑在一个领域是专家并不意味着在所有领域都是专家。

Leopold Aschenbrenner的对冲基金Situational Awareness本周上演了一出200亿美元的演示。

他出名的原因曾是OpenAI超级对齐团队成员，后因涉嫌泄密（他对此有异议）被解雇，并在2024年发表了一篇关于AGI迫在眉睫和重要性的文章，引发了对他的上千次媒体采访。然后他管理着一只200亿美元的对冲基金。

然后它爆仓了。本周很多人会为此欢呼，因为许多人觉得他有点令人难以忍受。对我来说，我真的不介意不再被问到“我该投资Situational Awareness吗？”以及需要对此小心翼翼。不过，我想提出一个更大的观点。

他所来自的前沿AI实验室文化中缺乏智力谦逊，这种文化不仅限于他，还延伸到资金管理之外的许多垂直领域。话虽如此，作为前对冲基金人士且拥有AI背景，我确实有一些独特的资格来至少简短地讨论这个问题。

你在湾区吗？圣马特奥县图书馆邀请我在阿瑟顿图书馆举办关于《你需要了解的AI》的签书会和演讲，由Justin Kuczynski（谷歌计算生物学和工程主管博士）主持。

活动时间是2026年8月7日星期五下午3点到4点。欢迎来打个招呼！Situational Awareness LP的困境并非独一无二。许多对冲基金都爆仓过。事实上，我想说，爆仓的对冲基金比一直表现优异的要多得多。

这是大多数外行没有意识到的。典型的例子是长期资本管理公司，它把两位诺贝尔奖获得者和华尔街最优秀的债券交易员放在同一只基金里。它是该领域最优秀、最聪明的基金，四年内让投资者的资金翻了四倍。

然后它在1998年爆仓得如此壮观，以至于美联储不得不召集华尔街银行救助它（这预示了2008年）。有一整本书讲述这件事，书名恰如其分地叫《当天才失败时》（是的，这就是标题的灵感来源）。这与你最高的回报无关。

毕竟，一个在轮盘赌桌上连续五次全押红色并靠运气获胜的人，回报率会是3100%。我希望没有人会认为这个人是独特的天才或有资格管理资金。这甚至不是关于“跑赢市场”。那是个转移注意力的说法。在牛市——或者更好的是在泡沫中——任何没有满仓或超仓（加杠杆）投资股市的人都会“输”。

你对对冲基金的期望是它们在牛市或熊市中都能保持一致。那些昂贵费用的意义在于它们总能表现，即使相对于股市暂时看起来“糟糕”。

顺便说一句，股市并不是世界上唯一的市场——还有债券、大宗商品……但它之所以受到关注，是因为散户投资者喜欢在其中赌博。

比如那个韩国人，他在股票上做多500%，短暂地把服兵役的积蓄变成了一笔小财富，然后全部亏光，尽管他只是截至7月中旬被追加保证金的120多万个韩国经纪账户之一……这让这一切看起来像轮盘赌桌。这让我们回到Leopold Aschenbrenner和他的对冲基金。

据各方说法，他（像韩国散户交易者一样）杠杆化押注AI热潮（据报道大约4倍杠杆），7月份在公有股票上亏损，如新云、存储类股和数据中心电力股。据报道，他还持有软件类股的空头头寸——即“SaaSpocalypse”交易——这些头寸同时对他不利。

我毫不怀疑Aschenbrenner非常聪明，但这看起来与爆仓的韩国散户投资者没什么不同。任何真正的投资者学到的第一个教训是，市场保持非理性的时间可能比你保持偿付能力的时间更长……如果你没有正确的风险控制。

使用杠杆只是其中最明显的部分。当然，这是因为他的论点。从他创立时的文章（强调是我加的）：因为——它开始感觉真实，非常真实。几年前，至少对我来说，我认真对待这些想法——但它们是抽象的，被隔离在模型和概率估计中。

现在它感觉非常切身。我能看到它。我能看到AGI将如何构建。这不再是关于人脑大小的估计、假设和理论外推等等——我基本上可以告诉你AGI将在哪个集群上训练、何时构建、我们将使用的算法的大致组合、未解决的问题和解决它们的路径、重要人物的名单。

我能看到它。这非常切身。当然，在2023年初全仓杠杆做多英伟达一直很棒，但历史的负担很重。我不会选择这个。啊，全仓杠杆做多英伟达。我们当时就尝到了他的投资风格，那时他甚至还没有基金。

超越Situational AwarenessSam Altman和Dario Amodei经常轮流以末日般的口吻描述劳动力市场的未来（尽管两人最近都在悄悄收回）。虽然我点名这两位是因为他们是两个最著名AI实验室的CEO，但这并不局限于他们。

我个人觉得恼火的是，这些声明大多缺乏经济史或理论的依据——这也许不奇怪，因为发表这些声明的大多数人都是AI领域的深度专家，而不是那些领域。这超出了市场和技术的不可预测性。这让我想起托马斯·马尔萨斯，他实际上是一位经济学家。

他在1798年预测我们不可避免地会耗尽食物（人口呈指数增长，而食物供应不会），这使得没有战争、饥荒和疾病来削减人口的和谐社会变得不可能。而且食物危机迫在眉睫。他出了名的错了。除了食物，我们还定期听到面对技术变革时关于劳动力市场的末日预言。

但现实是，即使有颠覆，劳动力市场也适应了——而且适应了比我们现在讨论的更戏剧性的变化。除此之外，我现在看到多个案例，我或其他投资者的投资组合公司被领先实验室的关联公司接洽，这些公司对自己广泛的智力优势充满信心。

比如说，一家材料科学初创公司正在与一家OpenAI的卫星公司洽谈。该初创公司的数据和专业知识对卫星公司的核心追求很重要。谈判进展顺利。然后，突然，OpenAI卫星团队中有人问：“我们为什么不自己用ChatGPT来做这个[超级难的深层科学问题]呢？

”我在类似深层、困难的领域多次看到这种情况。比如生物工程。或者半导体设计。等等等等。（如果你在风险投资和初创社区，并且认为你确切知道我指的是谁——不止一个。多得多。）

而且，我亲自玩过模型，甚至用于CAD和PCB设计，结果出奇地好。我不是“AI怀疑论者”（至少不是这种方式）。然而，在研发和硬领域的死记硬背任务之间存在一个光谱。特别是考虑到它往往效果最好——就像我的情况——当你有一个至少具备一些专业知识的驱动者时。

AI实验室社区中的许多人已经完全喝下了自己的“AI至上”迷魂汤，即使对于在可预见的未来需要大量人类创造力和帮助的任务也是如此（正如我之前写过的：如果有的话，专家的人类判断将变得更加重要，因此更昂贵）。

（还有AI Supremacy，这个概念，不是Michael Spencer的AI Supremacy通讯，后者也报道了Leopold Aschenbrenner）