梵蒂冈在Anthropic内部的关键人物：AI伦理对话的桥梁

克里斯·奥拉（Chris Olah）并不是你想象中会在教皇利奥发表历史性人工智能通谕后的仪式上发表演讲的人，教皇在该通谕中呼吁“解除”这项技术。首先，奥拉是一位无神论者，他在15岁时拒绝接受福音派基督教教育。

作为泰尔研究员，他接受了一个人的资助，这个人认为任何减缓人工智能进步的人都是敌基督军团。奥拉也是Anthropic的联合创始人，据报道，Anthropic是一家领先的人工智能公司，即将上市，估值接近万亿美元。

奥拉在梵蒂冈的讲话中评论了这一奇怪之处。奥拉说：“我想从一家人工智能公司的联合创始人所说的一些听起来可能很奇怪的话开始，他选择这项工作是出于帮助人类一切顺利发展的愿望。

”“每个前沿人工智能实验室——包括Anthropic——都在一套激励和约束下运作，有时可能与做正确的事情发生冲突。”

奥拉为利奥的说法提供了第一手证据，即人工智能行业需要外部压力和内部约束，以避免人类的灾难以及人类与上帝之间的距离。（很明显，通谕中有很多宗教内容——他是教皇！）该行业愉快地相信，它正在创造丰富，这将提升全人类的地位；

利奥警告人们注意到一种新形式的奴隶制，少数特权阶层享受着难以想象的慷慨，而人类大众则在人工智能无情的注视下，在效率和监视下遭受苦难。Magnifica Humanitas不会立即说服人工智能行业停止追求AGI，就像教皇方济各2015年保护地球的呼吁停止化石燃料的生产一样。

这不会阻止首席执行官解雇声称人工智能效率的员工，军方也不会在人工智能武器上大转变。这些从来都不是该文件的目标。通谕的目的是建立对话，最终可能会缓和该行业鲁莽的野心。也许这会让那些开发人工智能的人产生一种羞耻感，同时心里知道结果可能很糟糕。

奥拉的出现酝酿了多年。几十年来，教会一直以会议和书籍的形式反思人工智能。2016年，梵蒂冈开始举办一系列名为“密涅瓦对话”的会议，并邀请里德·霍夫曼和埃里克·施密特等科技人物参加。

（这个名字似乎来自讨论地点圣玛丽亚 sopra Minerva教堂，伽利略因声称地球绕太阳运行而受到制裁。）教宗方济各在2023年对密涅瓦参与者的问候预示了利奥后来详述的主题，包括强调社会包容、人类尊严以及多方对话的必要性。

2025年，加利福尼亚州圣何塞的一群天主教神职人员和伦理学家开始在他们后院蓬勃发展的行业中寻找联系人。几乎是命中注定，他们会把奥拉当作他们最珍视的内线。我第一次见到他是在2015年，当时他还在谷歌；

他是那种在暴风雨后会拯救死在人行道上的蠕虫的人。两名男子——伦理学家布莱恩·帕特里克·格林（Brian Patrick Green）和牧师布伦丹·麦奎尔（Brendan McGuire），均隶属于圣克拉拉大学——去年秋天开始与奥拉会面，讨论人工智能的伦理和道德问题。

在一月份的一次访问中，他们带来了红衣主教保罗·蒂格（Paul Tigue），他是梵蒂冈在人工智能问题上的关键人物。天主教伦理学家甚至对Anthropic最近对克劳德宪法的更新有发言权，该宪法为该公司的人工智能模型设定了行为参数。

奥拉向圣何塞人群发送了一份草案。牧师麦奎尔发回了一篇长达28页的评论，按照他自己的描述，这篇评论与其说是技术批评，不如说是“来自黑暗时代神秘主义者的智慧，从知道与不知道之间的张力的角度来看。”格林和麦奎尔都受到了宪法的认可。

毫无疑问，这些谈话引起了那些秘密组织推出利奥通谕的人的注意。（本周我无法与奥拉交谈，也不知道邀请是如何到达的。）从某种意义上说，这是一个冒险的选择。一些认为利奥的话鼓舞人心的人对他邀请行业代表发言感到失望。

与此同时，人工智能加速论者认为奥拉签署了一份建议人工智能开发人员暂停的文件，背叛了人工智能世界。但教皇有充分的理由单独点名奥拉。这位Anthropic员工公开了人工智能工作者之间存在的严重担忧。

这是对利奥信息持批评态度的听众。当然，这两个人并不完全一致。奥拉在讲话中谈到了人工智能如何运作的奥秘。他说，这些模型“比我们想象的科幻小说更加微妙、奇怪和美丽。他们不是我们所承诺的冰冷的计算机器人。

它们是由我们，由我们的话语所造的……”这一评论似乎暗示了AI模型有一天可能会达到类似人类的状态。Anthropic甚至有一个工程师致力于克劳德的福利。利奥在通谕的第99段中似乎对这种想法关上了大门：“我们必须避免将这种类型的‘智力’等同于人类的智力的误解，”他写道。

他特别煞费苦心地攻击超人类主义的概念，他将其定义为对“人机混合体”的追求。如果即使是像奥拉这样深思熟虑的技术专家也在热切地将人工智能推向自主的门槛——更不用说数百万已经将人工智能模型视为朋友或情人的人了——那么教皇利奥可能会在这一点上面临艰难的攀登。

在我与麦奎尔神父（他在准备布道等活动时使用克劳德）的交谈中，他同意其性质是神秘的。“它不是一个人，但它也不仅仅是一个工具，”他说。“没有人声称它有灵魂，但我坚持的词是，它是一个实体，但我们还不知道。

”这个争论在一段时间内不会得到解决。围绕人工智能开发的道德问题现在需要关注。与他在Anthropic的盟友一起，美国教皇为艰难的对话提供了基础——如果人工智能之王能够停止IPO活动足够长的时间来参与其中的话。

这是Steven Levy的BackChannel时事通讯的一个版本。在此处阅读之前的时事通讯。