技术远见者称大型AI实验室不懂用户需求

蒂姆·奥莱利衡量公司、个人或社会价值的标准，长期以来一直是“创造的价值要超过你获取的价值”。毫不奇怪，这位出版商、互联网先驱、风险投资人、会议组织者和技术智慧传播者，正将这一标准应用于人们设计和运用AI的方式。

具体而言，他正推动一个开源AI成为大众灵丹妙药的未来。他担心，就像20世纪90年代的微软一样，如今的超大规模企业正试图将用户锁定在自己的产品中。

因此，他正努力推动AI技术的开源——不仅让神经网络权重等关键技术细节可获取，还要解锁AI系统的整个技术栈，将控制权交给设计师和用户。奥莱利将AI视为一种新的创意媒介，他广泛使用它，甚至有一个博客专门记录他与AI的对话。

在我们的交谈中，我们发现彼此对AI在创作原创内容方面的作用存在分歧。猜猜谁站在哪一边。史蒂文·莱维：你全力支持开源AI。请阐述你的理由。蒂姆·奥莱利：首先，让我们确保我们谈论的是同一件事。当大多数人谈论开源AI时，他们实际上只是在谈论开放权重模型。

但它的意义远不止于此。在90年代，当其他人都专注于开源许可证时，我想，“不，不，关键在于系统的架构。它是否允许参与？”为什么需要这样？大型实验室错误地解读了未来。

他们给自己编造了一个叙事，认为拥有最大、最好的模型是通往未来的关键。像Claude这样的大模型正在针对特定用例进行优化，但这些用例不一定是人们想要的。我想融入我自己的独特配方。最重要的是在模型、框架和应用程序之间有一个清晰的分离。

而目前我们并没有做到这一点。他们构建了一种控制的架构，而不是自由和参与的架构，所以他们有能力追踪你。放弃控制权难道不符合大公司的利益吗？哦，这完全违背他们的利益。但这并不意味着他们做出了正确的战略决策。

长期以来，最新、最强大的模型确实在各方面都更好。现在它们在某些方面更好，在其他方面则更差。人们经常谈论Fable和Sol作为作家比低级别模型更差。[注：Anthropic和OpenAI会不同意。

]我们在所谓的前沿AI领域取得的突破，实际上让我们离普通人的需求越来越远。我们可以在美国赢得前沿AI竞赛，但中国会打败我们，因为他们的低级别模型在社会中广泛传播。我们的目标是赋予人们自由创新的能力，让他们在条条框框之外挥洒创意。

人们担心开源软件可能带来安全风险，因为不良行为者能够绕过前沿模型的护栏。我们见过的所有网络安全事件都来自前沿模型。因此，网络安全和开发病原体等风险，实际上是减缓前沿模型发展的理由，而不是限制开放权重模型的理由。

那么你是否认为，通过开源，AI巨头将不再占据主导地位？我不预测未来。但我要说，世界正朝着我希望的方向发展。如果大型前沿模型最终像大型机或超级计算机一样，针对真正困难的问题，而这些难题实际上并不会在社会中广泛传播，那会怎样？

人们正在构建像Pi这样的东西，一个开源的[智能体]框架。我在我的非营利组织“AI披露项目”中正在做的一件事，就是“开放记忆联盟”的想法。马克·扎克伯格的论点是，他会把你锁定，因为Meta会给你最了解你的AI。

开源愿景必须对此说不。开源能让你有能力切换模型、切换提供商，并保留所需的所有上下文。你最近在《经济学人》上发表了一篇文章，谈到埃隆·马斯克以及其他科技领袖在公司中拥有如此大的权力，以至于他们是反资本主义的，因为决定战略的是他们的欲望，而不是市场。

总的来说，硅谷已经变得反资本主义了。他们使用市场的语言。但大约在2010年，整个模式在Uber和Lyft上得到了体现。在风投的资助下，他们实际上花费了数十亿美元来补贴乘车服务。风险投资人选择了赢家，而不是市场。

这成了模板。所有资本堆积起来，扼杀了其他可能的路径。在AI领域，所有资金都流向了少数几家公司，但似乎没有一家能锁定胜局。因为这是一个失败的模型。真正的行动在开源。就像20世纪90年代初，每个人都以为这是一场争夺PC统治权的战斗，然后万维网从无人注意的左外野杀出。

我认为，真正的AI未来将是一场创新的发酵，而这场发酵并非由风险投资资助——就像万维网当初也不是由风投资助的一样。其中一个颠覆者可能是你自己的公司，它建立在书籍和写作之上。图书业务已经衰退了25年。

在我们的巅峰时期，图书业务大约有7000万美元，现在只有3000万美元。随着图书收入减少，我们必须找到一种方式来补偿人们分享知识，因为这是我们的根本业务。所以现在AI出现了，把一切都吸走了。我们能构建一套工具来帮助人们应对吗？

能够调用专家的知识是一种超能力，我们必须弄清楚现在这应该是什么样子。

当我编辑这次采访时，我会把我们的长对话浓缩成更短的版本，但我不会用AI来做这件事。当然，引言中的文字将完全由我撰写。这实际上是我们的政策。我认为这是一个即将消失的传统。在写作时拥有一个AI思维伙伴，对我来说非常强大。

AI替你写作？不，不。我用它来做头脑风暴，以及一些功能性的写作。当我采访某人一个小时，我会对AI说：“把它变成我能用的东西。”我没有时间把所有采访都写出来。你不担心AI最终会取代人类写作吗？AI实际上是一种媒介，就像书面文字、绘画或音乐是媒介一样。

当我与AI交谈或用它设计艺术时，我从中得到的东西与你不同，就像米开朗基罗和梵高从绘画中得到完全不同的东西一样。认为不能用AI写作的想法，将来看起来会像认为不能用相机拍出好肖像或风景一样奇怪。会有人成为通过从LLM中召唤词语来表达想法的大师。

人们过去骑马。现在，很少有人骑了。我们还处于早期阶段。这是史蒂文·莱维的Backchannel通讯的一期。在此处阅读以前的通讯。