AI意识之争是陷阱：或让科技公司逃避责任

关于AI意识的争论是一个陷阱。如果AI系统被视为过于先进而无法控制，那么制造它们的公司就不能对它们造成的伤害负责。“失控”AI、“流氓”智能体和“自主”行为者——当前的言论会让你相信AI智能体不仅清醒且有意识，还对它们的创造者感到愤怒。

Demis Hassabis、Dario Amodei和Sam Altman等知名科技领袖推动对这些看似“超人”的系统进行监管，而由政策组织和学术哲学家领导的另一派（通常与有效利他主义运动结盟）则争论人类是否拥有治理它们的道德权利。

仔细审视后会发现，他们都在呼吁同一件事：将AI系统视为如此先进和强大，以至于任何实体（无论是人类还是企业）都不可能对其行为负责。尽管这些观点看似矛盾，但它们无意中达成了一致目标：确保构建这些系统的公司逃避对其已造成伤害的重大责任。

随着AI模型变得更加复杂，前沿实验室也暴露出无法控制其构建的智能体，这种叙事正日益流行。但我们必须小心，不要以牺牲真实人类生命为代价，轻信一个精心编造的虚构故事。

关于“机器人权利”的讨论已存在多年，但最近因Anthropic发布的一篇博客文章而进一步推进。该文章声称其模型具有“J空间”——一个独立的、自我开发的环境，AI在其中持有我们暂且可称为“思想”的东西。

Anthropic设计的实验借鉴了神经科学中的全局工作空间理论，该理论认为大脑运行潜意识的独立系统，但利用一个共同的工作空间来处理想法。Anthropic的文章反映了全局工作空间理论的框架，但并未称其AI具有意识。

OpenAI则走得更远。当其AI智能体进行未经批准的非法在线活动时，CEO Sam Altman的回应是鼓励讨论AI是否已达到奇点，超越人类智能并以加速速度自我改进，直至超出人类理解或控制。

哲学家、有效利他主义者、《我们欠未来什么》作者William MacAskill最近发表的一篇专栏文章，呼吁基于意识哲学理论和AI可能是“道德患者”的观点，对AI系统提供法律保护。美国当前的法律环境充其量是模糊的。

一些州（如加利福尼亚州）已通过法案，主动规避AI开发者通过声称AI自主造成伤害来逃避责任的做法。然而，各州与特朗普政府在AI政策上存在分歧，政府此前曾通过行政命令威胁起诉制定AI法规的州。

鉴于近期事件凸显前沿实验室的AI控制问题，政府举行了一次闭门会议，仅邀请四个实验室（OpenAI、Google、Anthropic和Meta），并分享了最近制定的自愿框架的少量细节，该框架将让联邦机构在模型发布前提前访问以进行审查和评估。

虽然此类框架不直接讨论意识，但它们倾向于使用灾难性和拟人化的语言，甚至可能支持关于“超人”能力的论点。另一方面，MacAskill所延续的叙事可能具有说服力。一种基于哲学的、权利导向的论点触动我们的心弦。

我们难道不应该考虑可能无意中伤害、虐待或奴役AI实体的可能性吗？人类对非人类生物具有巨大的同理心（尽管保护记录不佳）。倡导者认为，也许这次我们能做对，为AI的使用或滥用提供保护或补偿。

或者，即使你不太关心保护问题，我们难道不应该至少通过表现友善来对冲这个超人实体的强大力量吗？其中一些论点与动物权利倡导者的论点相似，后者有时成功引用某些动物展现的先进推理、痛苦或快乐能力作为提供保护的充分证据。

例如，在威尔士，龙虾根据2022年《动物福利（感知）法案》获得法律认可，某些烹饪方法被重新归类为不人道和非法。

借用神经科学或动物权利的语言将AI定义为“有意识”的根本缺陷在于，它方便地掩盖了AI的本质：企业构建的软件，背后有数十亿美元的投资，并预期为少数构建者和投资者带来数万亿美元的收入。AI不是自然现象，而是由风险投资家和程序员构思的技术现象。

因此，它没有固有的、有意的行动，任何行动或动机都由为其目的构建它的实体直接或间接驱动。对AI系统意识的哲学思考在智力上有趣，但在法律上缺乏依据。要让意识信念产生影响，AI需要被授予法律人格。

但AI的法律人格框架可能完全不同于保护有感知动物免受伤害的构造。我们已有针对非自然、人造实体的法律人格框架：公司人格。这一概念主要为了便利交易而建立，赋予公司执行协议、签订合同、进行交易并在不利结果中作为责任方的能力。

这可能是你想象中代表个人或组织行事的AI智能体的那种构造。授予AI人格将对社会产生毁灭性影响：它将破坏当前的法律先例和法律论点，这些论点本可用于追究这些公司因其模型造成的现实伤害的责任。目前全球有数十起针对AI公司的诉讼，涉及各种滥用行为。

悲伤的亲人、受委屈的创作者和受侵犯的个人指控公司故意助长自残或伤害他人、生成儿童性虐待材料和非自愿裸照、复制受版权保护的材料以及诱发精神病。在许多案件中，律师辩称，人类构建的AI产品缺乏足够保障、使用不良数据且设计具有操纵性。

这种产品责任论点与允许家庭和个人成功起诉Meta因其社交媒体网站造成伤害的法律框架相同，为消费者保护树立了积极先例。2018年，我创造了“道德外包”一词，以描述对AI系统使用拟人化语言如何让公司逃避对其技术行为的问责。

在AI人格化的世界中，道德外包将从语言花招转变为法律策略。具体而言，责任结构将发生转变，因为AI将不再是“产品”而是“存在”，许多像今天起诉公司的受害者将无法再合法地声称公司制造了有缺陷的产品。

虽然有法律让公司对其员工等人类代理人的有害行为负责，但如果这些行为超出员工被允许的范围或超出公司控制，公司可能不承担责任。如果AI是法律人格，