教皇通谕聚焦AI社会影响，未提AGI引发科技界讨论

周一，教皇利奥十四世发布了一封关于人工智能社会影响的通谕。这封题为《Magnifica Humanitas》的信警告说，“人工智能的使用从来都不是一个纯粹的技术问题：当它进入影响人们生活的过程时，就会触及权利、机会、地位和自由。

”与他一同出席的还有Anthropic联合创始人兼可解释性团队负责人Christopher Olah，这代表了天主教会与AI领域最大参与者之一的合作关系。教皇没有被AGI冲昏头脑。他的战斗号召没有提及许多人坚称即将到来的超级智能AI——但这有充分的理由。

这封信引起了科技行业内外的广泛反应。几乎所有人都认为这份文件将具有影响力。一些批评者质疑它是否足够深入，另一些人则认为它应该讨论人工通用智能（AGI），而许多公司坚称AGI即将到来。还有一些人认为教皇说得对。

“这是对大型科技公司CEO们的明显暗讽，他们公然宣称正在裁员，用AI取代‘低价值人力资本’，并且通过收买进入政治房间，以制定对自己有利的规则，”技术监督项目执行董事Sacha Haworth说。

教皇的通谕发布之际，正值对AI日益增长的力量的反弹。六成美国成年人认为他们对AI在日常生活中的使用“几乎没有控制权”，反对建设数据中心的抗议活动越来越普遍，甚至有人试图攻击AI公司的CEO。

正如Olah的出现所表明的，教皇的信将AI描述为一种可以有积极应用的技术，其语气引发了不同反应。

“我很高兴它批评了AI公司，尽管我认为它应该更严厉，”AI研究员、前OpenAI员工、非营利组织AI Futures Project的幕后人物Daniel Kokotajlo告诉The Verge。

相反，软件公司Optro的AI治理总经理Guru Sethupathy博士则感到鼓舞，因为有迹象表明“教皇利奥和梵蒂冈并不反对AI，而是关注如何走一条对人类最有利的负责任道路。

”与梵蒂冈合作是Anthropic的战略举措，该公司建立在精心维护的声誉之上，即比竞争对手更值得信赖。众所周知，Anthropic在过去几个月里卷入了与五角大楼关于军事AI使用限制的争论，而与另一个强大机构的联系可能有助于巩固其地位，并使其能够帮助塑造未来梵蒂冈的建议。

在许多科技界人士看来，这份文件的一个有争议之处是它完全没有提及AGI或超级智能；它承认AI系统可能“在速度和计算能力上经常超越人类智能”，但表示它们“缺乏人类成长智慧所需的情感、关系和精神视角。

”美国创新基金会高级研究员Dean W. Ball在X上写道，通谕“如果少一些对传统学术界/公民社会关于AI的论调的迷恋，而更多地关注AI的发展方向，将会好得多……但通谕没有这样做，而是从最深层意义上回避，否认AI‘真正思考’或‘真正学习’。

”Kokotajlo也表示，他希望这封信能“更认真地对待AGI和超级智能的可能性。”但这份文件并非旨在包罗万象，科技界和天主教界的几位人士告诉The Verge。“这不是关于AI。这是关于在AI时代保护人的尊严。

”圣约瑟夫和平修女会助理会长Susan Francois修女说：“这是一份重要的天主教社会训导文件。它不是关于AI。它是关于在AI时代保护人的尊严。

”生命未来研究所美国信仰联络人、圣母神学院天主教社会训导讲师Brian Boyd称这份文件“更像是一声战斗号角，而不是一套具体的行动指令。”

教皇在通谕中呼吁“建立足够的监管工具，以维护正义并遏制技术力量的扭曲影响”，但他没有支持具体提案。技术监督项目的Haworth表示，她认为这份通谕“为世界，至少是西方世界，设定了道德方向的指南针……你不必是天主教徒，也能在这份文件中看到自己的关切、愿望和恐惧。

”她说，她希望当选领导人能解决对AGI的具体担忧，并尽自己的一份力量让强大的科技公司承担责任，而不是让教皇的文件成为“所有人的一切”。她还称其为“对领导人、政客的警告，因为这份文件谈论的是创造一个新的底层阶级。

”对一些人来说，通谕对AGI缺乏关注并不是问题，因为他们认为教皇关注的是AI对当今弱势社区的现实影响，而不是实验室达到（基本未具体说明的）AGI里程碑时人类整体可能面临的潜在风险。

帮助客户组织加密数据的初创公司Opaque Systems的CEO Aaron Fulkerson说，教皇“实际上是在审视这个系统，并强调我们许多科技界人士会认为是人类系统性风险的东西。我甚至不是在谈论AGI。

我说的是我们的全球经济。”

即使在当前AI浪潮之前，科技行业的集中化也可能是危险的。网络安全公司CrowdStrike的一个问题导致全球银行、医院和航空公司瘫痪，亚马逊网络服务的一次中断导致从Reddit到Venmo的大片互联网瘫痪。

对Fulkerson来说，随着权力集中在少数AI实验室手中，全球经济面临的风险只会增加。“我在新闻中看到的是围绕教皇与科技兄弟权力动态的定位，但我认为每个人都错过了更大的故事，那就是他正在审视一个本质上存在风险的系统，”Fulkerson说。

“我们正在梦游般地走向一个世界，其中一两个实验室成为地球上每个行业的认知基础设施——这意味着人类的韧性大大降低，而不是能力更强。”在通谕中，教皇将AI比作巴别塔，他描述这座塔“由消除多样性、选择同质化而非共融的一致性所支撑”。

世界必须“避免‘巴别综合征’”，他写道：“牺牲弱者的利润崇拜、消除差异的一致性，以及一种单一语言——甚至数字语言——可以将一切，包括人的奥秘，转化为数据和表现的假象。”在他看来，AI不仅成为一项新技术，而且成为一场圣经式的斗争。

“非人化的风险，”他写道，“是一种古老且不断更新的诱惑，今天它披上了技术的外衣。”这些声明的分量，而非技术细节，可能是其持久的影响。