人工智能指数政策

人工智能指数政策在《指环王》的一个附带情节中，两个霍比特人试图唤醒树胡子--一棵聪明但沉重的有感知力的树--以保卫他的森林免受砍伐的军队的侵害。问题是树胡子的行动速度与霍比特人截然不同。

他需要一整天的时间才能向另一棵树打个招呼，因此让他和他的同龄人足够快地采取行动几乎是不可能的。人工智能和我们政治机构的交叉感觉有点像霍比特人和树胡子。

人工智能正在以闪电般的速度前进--短短四年内，人工智能模型就从几乎无法编写一行连贯的代码到由主要人工智能公司编写大部分代码。生物学、物理学、数学、金融、法律、翻译和许多其他领域也取得了类似的进展。

人工智能的缩放定律预测，随着计算能力的提高，一般认知能力将呈指数级增长，现在已经有了十多年的经验证据。如果这些缩放定律只持续一两年，我们很可能会得到我所说的强大人工智能，或“数据中心中的天才之国”。

相比之下，政策--尤其是立法--的进展非常缓慢。这通常是有充分理由的：政府拥有巨大的权力，通常最好不要仓促使用它们。

但时间尺度上的不匹配仍然是非常痛苦的：在国会采取行动的几年内，人工智能可以从一个有趣的玩具变成整个天才国家。自从人工智能成为一种主要商业技术以来，我们这些想要负责任地处理它的人面临着困境。

我们可以清楚地看到指数级的发展方向：我们强烈怀疑，几年内人工智能将成为从根本上重塑整个政策格局的罕见技术之一，就像核武器重塑地缘政治和工业革命从根本上重塑每个经济和社会问题一样。

但对于那些当时只关注人工智能能做什么的人来说，它看起来像是一项更加平凡的技术--也许类似于最新的消费应用程序或加密货币。很难让大多数政策制定者和公司相信，除了自由放任态度之外的任何事情都是有意义的。

公平地说，人工智能的根本影响尚未显现，而且我们也不知道它们可能会采取什么形式，这使得即使有采取行动的意愿，也很难设计正确的政策。

鉴于这种情况带来的限制，许多安全倡导者（包括Anthropic）迄今为止一直专注于倡导保留选择性的政策行动，在未来做出快速反应，或者让世界更好地了解即将发生的事情--例如透明度立法、芯片出口管制以及人工智能劳动力影响的数据收集。

这些还不够，但他们感觉这一切都是可能的。然而，在过去的几个月里，人工智能令人难以置信的力量及其风险的证据已变得不可否认。也许最具代表性的例子是克劳德·神话预览，并发现前沿模型对网络安全构成了非常现实的风险，可能会破坏金融部门、关键基础设施和国家安全。

神话预览扰乱了全球网络安全格局。但其更广泛的意义在于，它毫无疑问地证明人工智能模型现在是具有全球和国家战略影响的工具。神话级模型带来的网络风险不会是我们必须面对的最后一个风险。我相信生物风险可能很快就会随之而来，而严重的人工智能自主风险可能也不远了1。

我们现在，无论是全球还是集体，都需要启动一个缓慢而摇摇欲坠的政策机制，以应对风险和机遇，这些风险和机遇将从这里开始以惊人的速度复杂化。

许多政策制定者对采取行动表现出越来越大的开放态度，看到我们的同行采取我们过去几年一直倡导的同样立场，这令人鼓舞。这很好，但我担心这些早期行动至少与人工智能的快速进步相差一年。本文试图缩小这一差距：列出现在指数级的位置，以及应对这一时刻所需的集体行动。

我将重点关注人工智能世界中需要重新构想的五个长期政策领域：监管和公共安全、宏观经济和税收政策、科学创新、国家与社会之间的权力平衡以及地缘政治。由于Anthropic是一家美国公司，我将主要从美国政策方面发言，但我的大部分建议也与世界其他地区相关。

与本文一起，Anthropic还发布了一项关于前沿模型测试的立法提案和工作替代政策框架，我们打算为此提供大量财政支持。我们计划在未来做更多事情，但我们认为这些是表明我们认真态度的第一步。

1.监管和公共安全每一项新技术或产品都有有益和有害的用途，因此在创新与安全之间面临两难境地。

监管产品使它们不太可能造成伤害，并在改善世界各地的生活方面发挥了重要作用，但也可能直接减少它们的收益并间接抑制创新。海耶克的观点还认为，监管机构往往缺乏就复杂的经济权衡做出正确决定所需的信息，因此监管往往既无效又繁重。

一个相关的想法是科林里奇困境，即技术的影响通常很难预测，直到很晚才能轻松管理它们。2023-2024年，这些动态对人工智能来说尤为突出。Anthropic很清楚，人工智能未来可能能够生产可能威胁数百万人的生物武器，或者生产在极端情况下甚至可能威胁人类本身的自主不当行为。

不太清楚的是风险出现的确切形式、如何最好地测试和缓解风险以及风险在实践中如何发挥作用。因此，提前制定的立法很有可能最终会产生无效的效果，从而产生毫无意义或低价值的合规要求，同时错过了最关键的实际风险来源2。

最终，我们得出的结论是，当时正确的方法是透明度。

人工智能模型的开发人员应该披露他们的安全程序和他们对模型运行的测试，并报告任何重大安全事件，以便公众和科学界能够更好地了解风险出现时的情况。当风险变得更加明确、形态更加明确时，通过透明度获得的证据就可以用于设计明智的立法，以精确地针对最令人担忧的风险。

因此，2025年，Anthropic支持透明度立法，帮助通过加利福尼亚州的SB 53、纽约州的RAISE、伊利诺伊州的SB 315（2026年初），并倡导联邦层面的透明度标准。然而，现在风险显然就在这里。

是时候超越透明度，对人工智能进行更严肃和更有约束力的监管了。我相信，至少在当前指数级阶段，最好的类比是汽车、飞机或对现代经济至关重要的强效药物技术，但如果设计或操作不当，它们能够杀死大量人。因此，我认为我们应该以联邦航空管理局（FAA）等机构为人工智能监管模式。

前沿人工智能模型，像飞机一样，应该被要求经过技术测试和审计，如果它们不符合高安全标准，则应该阻止或逆转它们的发布，作为对公共安全的威胁。我很高兴看到特朗普政府的行政命令逐步走向伟大的