AI指数级增长下的政策应对：从透明到强监管

在《指环王》的一个支线情节中，两个霍比特人试图唤醒树胡子——一棵睿智但行动迟缓的树人——让他保卫森林免受砍伐大军的侵害。问题在于，树胡子的行动速度与霍比特人截然不同。他需要一整天才能向另一棵树打招呼，因此让他和同伴们足够快地行动几乎是不可能的。

AI与政治制度的交汇点，感觉有点像霍比特人与树胡子。AI正以闪电般的速度发展——短短四年内，AI模型从几乎无法写出一行连贯的代码，发展到在主要AI公司编写大部分代码。在生物学、物理学、数学、金融、法律、翻译以及许多其他领域，也取得了类似的进展。

AI的Scaling Law预测，随着算力的增加，通用认知能力将呈指数级增长，如今已有超过十年的实证支持。如果这些Scaling Law再持续一两年，我们很可能会得到我所说的“强大AI”，即“数据中心里的天才之国”。

相比之下，政策——尤其是立法——进展非常缓慢。这通常有充分的理由：政府拥有巨大的权力，通常最好不仓促使用。

但时间尺度上的不匹配仍然非常痛苦：在国会可能需要数年的时间里，AI可以从一个有趣的玩具变成完整的天才之国。自AI成为主要商业技术以来的几年里，我们这些希望负责任地处理它的人面临着一个困境。

我们可以清楚地看到指数级发展的方向：我们强烈怀疑，几年内AI将成为少数从根本上重塑整个政策格局的技术之一，就像核武器重塑地缘政治、工业革命从根本上重塑每个经济和社会问题一样。

但对于那些当时只关注AI能做什么的人来说，它看起来像是一种更平凡的技术——或许类似于最新的消费应用或加密货币。很难说服大多数政策制定者和公司，除了自由放任态度之外还有其他合理的做法。

公平地说，AI的根本影响尚未显现，而且我们不知道它们可能采取何种形式，这使得即使有行动的意愿，也很难设计出正确的政策。

鉴于这种情况的限制，许多安全倡导者（包括Anthropic）迄今为止一直专注于倡导保留选择权的政策行动，为未来的快速反应做好准备，或让世界更好地了解即将发生的事情——例如透明度立法、芯片出口管制以及AI对劳动力影响的数据收集。

这些还不够，但感觉是当时唯一可行的。然而，在过去的几个月里，AI惊人能力及其风险的证据已变得不可否认。也许最具象征意义的例子是Claude Mythos Preview，以及发现前沿模型对网络安全构成非常现实的风险，可能破坏金融部门、关键基础设施和国家安全。

Mythos Preview扰乱了全球网络安全格局。但其更广泛的意义在于，它毫无疑问地证明AI模型现在是具有全球和国家战略意义的工具。Mythos级模型带来的网络风险不会是我们必须面对的最后一种。

我相信生物风险可能很快会随之而来，而严重的AI自主风险可能也不远了。我们现在，全球和集体地，需要启动一个缓慢而摇摇欲坠的政策机制，来应对从这里开始将惊人快速复合的风险和机遇。

许多政策制定者对采取行动表现出越来越大的开放态度，看到同行们转向我们过去几年一直倡导的立场，这令人鼓舞。这很好，但我担心这些早期行动至少与AI的快速进展相差一年。本文试图缩小这一差距：阐述指数级发展现在所处的位置，以及应对这一时刻所需的集体行动。

我将聚焦于AI世界中需要重新构想的五个长期政策领域：监管与公共安全、宏观经济与税收政策、科学创新、国家与社会之间的权力平衡，以及地缘政治。由于Anthropic是一家美国公司，我将主要从美国政策角度发言，但我的大部分建议也适用于世界其他地区。

与本文一起，Anthropic还发布了一项关于前沿模型测试的立法提案和一项关于工作替代的政策框架，我们打算为此提供大量财务支持。我们计划未来做得更多，但我们将这些视为表明我们认真态度的第一步。

1. 监管与公共安全每一项新技术或产品都有有益和有害的用途，因此在创新与安全之间面临两难。

监管产品使其不太可能造成伤害，并在改善世界各地生活方面发挥了重要作用，但它也可能直接减少收益并间接抑制创新。还有哈耶克的观点，即监管机构往往缺乏就复杂经济权衡做出正确决策所需的信息，因此监管常常既无效又繁重。

一个相关的概念是科林格里奇困境，即技术的影响往往难以预测，直到为时已晚而无法轻易管理。这些动态在2023-2024年对AI而言尤为突出。Anthropic很清楚，AI未来可能能够生产可能威胁数百万人的生物武器，或在极端情况下甚至可能威胁人类本身的自主不当行为。

不太清楚的是风险出现的具体形式、如何最好地测试和缓解它们，以及它们在实践中如何展开。因此，提前制定的立法很有可能最终无效——产生毫无意义或低价值的合规要求，同时错过最关键的真正风险来源。最终，我们得出的结论是，当时正确的方法是透明度。

AI模型的开发者应该披露其安全程序和对模型进行的测试，并报告任何重大安全事件，以便公众和科学界能够在风险出现时更好地了解它们。当风险变得更加确定、形态更加清晰时，通过透明度获得的证据可用于设计精准针对最令人担忧风险的明智立法。

因此，在2025年，Anthropic支持透明度立法，帮助通过了加利福尼亚州的SB 53、纽约州的RAISE、伊利诺伊州的SB 315（2026年初），并在联邦层面倡导透明度标准。然而，现在风险显然已经到来。

是时候超越透明度，对AI进行更严肃、更具约束力的监管了。我相信，至少在指数级发展的当前阶段，最好的类比是汽车、飞机或药物——对现代经济至关重要的强大技术，但如果设计或操作不当，可能造成大量人员死亡。

因此，我认为我们应该以联邦航空管理局（FAA）等机构为蓝本进行AI监管。前沿AI模型，像飞机一样，应该被要求通过技术测试和审计，如果它们不符合高安全标准，其发布应被阻止或撤销，作为对公共安全的威胁。

我很高兴看到特朗普政府的行政命令逐步朝着一个伟大的方向前进。