AI战争已至：Anthropic与五角大楼的博弈揭示自主武器现实

《某些常规武器公约》是一个专注于致命自主系统的国际论坛，每年在日内瓦联合国举办两次。当布兰卡·马里扬（Branka Marijan）于2017年11月参加时，她认为为期五天的会议——主要讨论假设，推测一个使用杀手机器人进行战争的世界——将一切如常。

毕竟，一些人认为这项技术可能永远不会被开发出来，也可能永远不会被部署。她很快意识到，那一年有所不同。那个遥远的、想象中的未来突然比以往任何时候都更接近、更真实。人工智能战争已经到来。Anthropic与五角大楼的战斗凸显了自主战争的风险，但掩盖了它有多接近。

第一天，一些与会者观看了由未来生命研究所制作的一部名为《屠宰机器人》的短片。该视频中，一名虚构的国防承包商推销了一架人工智能无人机，可以在没有辅助的情况下通过精确打击进行杀伤。“他们过去常说枪不会杀人，而是人会杀人，”该公司首席执行官告诉观众。

“但人们不这样做。他们情绪激动，违抗命令，目标远大。让我们看看武器做出决定。”马里扬回忆说，房间里的气氛突然变得不安。最可怕的部分不是前提，而是五角大楼已经在开发这项技术的一个版本。

那次会议是Maven计划启动后举行的首次会议，Maven计划是美国国防部使用人工智能分析无人机监控录像的一项计划。到2017年底，Maven已经加入了一家大型科技公司：谷歌。

“我们谈论的系统并不是未来主义的，”马里扬说，他是一家以和平为重点的独立研究机构“犁股计划”的高级研究员。“它们是现有的平台，具有一定程度的自主性，或者能够根据传感器数据和传感器输入选择和接触目标。

”世界已经看到了无人机战争——由人类指挥的致命机器。现在，它正在展望人类可能完全脱离循环的未来。马里扬说：“我们担心的不是这些终结者般的人物，而是实现自治所发生的事情。”美国军方几十年来一直支持人工智能的发展，反过来，人工智能改变了战争。

近十年过去了，军队尚未开发出完全自主的致命武器。但这些系统恰好处于美国政府与人工智能初创公司Anthropic之间最近一场高风险斗争的中心。Anthropic正在寻求保留两条“红线”：禁止国内大规模监视以及禁止使用能够在零人员参与的情况下识别、跟踪和杀死目标的武器。

自今年年初以来，它已成为唯一一家对专家所说的人工智能战争的最终前沿之一进行有意义限制的军事人工智能承包商。但在不断变化的联盟、诉讼和情节剧中，人们很容易忽视更大的背景——人工智能已经并且长期以来一直深深植根于军队中。

七十年前，新罕布什尔州科学家之间的一次夏季会议让国防部坐起来注意到人工智能的战争潜力。从那时起，其影响力每十年都会呈指数级增长。特别是近年来，人工智能实现了比以往更多、更快的杀戮。就连Anthropic似乎也认为它的红线不会持续太久。

毕竟，历史证明并非如此。美国军方几十年来一直支持人工智能的发展，而人工智能反过来改变了战争。在2000年代，该技术能够解析全球收集的前所未有的大量数据，引发了一场监控革命。2010年代末，先进的面部识别和其他复杂的机器视觉系统出现了发展。

Anthropic和五角大楼之间的战斗引起了人们对这些系统日益增长的力量的关注。事情始于2026年1月，当时国防部长皮特·赫格塞斯（Pete Hegseth）要求重新谈判国防部现有的人工智能合同。

这些条款消除了任何灰色地带或之前商定的条款，允许五角大楼在“任何合法使用”的模糊和广泛限制内使用这些公司的技术。Anthropic——当时唯一一家获准在五角大楼机密网络上部署其技术的人工智能公司——对此表示反对。

就连Anthropic似乎也认为它的红线不会持续太久。像Anthropic这样的承包商对其技术的特定用途设置限制是不寻常的。加州大学伯克利分校公共政策副研究教授安德鲁·雷迪表示，“这不是曼哈顿计划那样的政府创造的技术”，也不是诺斯罗普·格鲁曼公司这样的传统军事供应商。

“当你让这个初创生态系统直接与五角大楼接触时，这就是你会清楚地发现的痛点之一。”他说，即使在硅谷内部，对于何时设定限制也存在“很多分歧”。目前还不清楚谁将获胜。

作为谈判策略，国防部在三月份将Anthropic指定为军事供应链风险，唐纳德·特朗普总统宣布他将禁止所有政府机构使用其Claude系统。此后，随着Anthropic专注于网络安全的模型Mythos的发布，双方关系显然有所升温，但法庭之战仍在进行。

Anthropic拒绝对本文发表评论。不管怎样，这场辩论以一种新的方式将“完全自主武器”带入了公共词典。

但人工智能在军事行动中的影响力几十年来并没有减弱。雷迪说：“我们已经跨越了难关，而我们却假装没有。”争论的中心是国防部指令3000.09，这是管理致命自主武器使用的唯一政策之一。

它最初写于2012年，将这样的系统定义为“一旦激活，就可以选择和接触目标，而无需操作员进一步干预。”它还规定，完全自主和半自主武器的设计都应允许人类对使用武力“行使适当水平”的判断。

未来生命研究所人工智能和国家安全负责人哈姆扎·乔杜里（Hamza Chaudhry）表示，该指令制定了“关于在战争中使用自主权的第一项政策”。“即使没有完全的自主权，人工智能也会将杀戮链压缩到几秒钟内。

”然而，根据您如何解释定义，某些导弹防御计划可能在几十年前就已经越过了这一界限。以Phalanx CIWS为例。这是一种自动化武器系统，类似于一门非常大的枪，旨在保护海军舰艇免受来袭导弹袭击。

如果循环中有人类，这种类型的系统就无法工作，因为它必须在毫秒内做出响应。一些专家表示，区别在于这些系统仅在仅防御的固定环境中运行。这种解释认为，他们正在参与其中，但不是做出决定——只是对即将到来的威胁做出反应。

雷迪说：“‘和’在该法规中做了很多工作——我们有可以做出决定的系统和可以参与的系统，但你不可能有一个同时做这两件事的系统。

”Tech Justice Law法律研究员Maddy Batt表示：“即使没有完全的自主权，人工智能也会将杀戮链压缩到短短几秒钟内，这样人类实际上就不会做出国际人道主义法要求的评估来防止平民伤害。

”“当人类未能做到这一点导致平民死亡时，那就是战争罪。”进攻和防守之间的定义也是模糊的。“我最喜欢和学生一起练习的一个是展示一项军事技术，然后问，‘这是防御性的还是进攻性的？

’”雷迪说，他以发射井中的核武器为例，有些人会认为这是防御，因为它被用来威慑，有些人会认为这是进攻，因为它的目的是打击外国目标。“仅仅因为它的主要功能……是防御性的