为什么梵蒂冈邀请Anthropic参加教皇的人工智能通谕演讲

当教皇利奥十四世周一在梵蒂冈发表他的第一份关于人工智能的通谕时，他邀请了Anthropic联合创始人克里斯托弗·奥拉（Christopher Olah）发言。此举标志着天主教会和硅谷之间前所未有的联盟。

但要了解这种合作伙伴关系是如何产生的，我们需要回到Anthropic的成立之初。为什么是Human pic？Anthropic于2021年推出，此前包括Dario和Daniela Amedei在内的一群OpenAI研究人员离开并组建了一个竞争实验室。

他们这样做时有一个明确的信念：人工智能模型变得太强大了，无法完全按照竞争和速度的逻辑来开发。从那时起，Anthropic就围绕人工智能安全概念建立了其公众形象。该公司的目标不仅是建立强大的模型，而且是可控并受道德原则指导的模型。

这就是宪法人工智能概念的来源：使用一种由原则和规则组成的宪法来训练系统的想法，而不是仅仅手动纠正最危险和危险的反应。与梵蒂冈的融合如何开始奥拉出现在梵蒂冈显然不是偶然的，也不是最后一刻象征性姿态的结果。

这是梵蒂冈深思熟虑、长期努力的结果，梵蒂冈逐步寻求将自己从技术的道德观察者转变为人工智能行业的直接对话者。

第一个重要步骤是在2020年发起的“罗马人工智能道德呼吁”，该倡议由教皇生命学院与微软、IBM和其他国际组织共同推动。目标是为人工智能的发展建立一个共同的道德原则基础，包括透明度、包容性和问责制。

当时，梵蒂冈似乎主要在生物伦理学和道德问题领域运作。然而，在接下来的几年里，情况发生了巨大的变化。ChatGPT的兴起、美国和中国之间技术领导地位的斗争，以及大型科技公司的实力不断增强，逐渐让罗马教廷相信，这个问题不再只是关于技术伦理，而是关于人类的未来。

从这个意义上说，《人皮》已被梵蒂冈视为一个特别重要的对话者。与其他主要围绕创新和增长建立声誉的硅谷公司不同，Anthropic将人工智能安全作为其身份的核心部分。近年来，梵蒂冈特别关注技术辩论的一个具体方面：人工智能模型的一致性。

奥拉的角色这就是克里斯托弗·奥拉的用武之地。与更多接触媒体的阿蒙迪兄弟姐妹不同，奥拉代表了人工智能研究中更具理论性和近乎哲学性的一面。

他是世界上最著名的模型可解释性主题研究人员之一，即了解日益复杂的神经网络内部真正发生的事情的努力。克里斯托弗·奥拉（Christopher Olah）在他的个人网站上将自己描述为一个试图“将神经网络转化为人类可以理解的算法的人。

“很难想象还有一个人物与教皇利奥十四世通谕的核心更加一致：集中在构建过于强大而无法理解、控制或治理的技术的风险上。据多个新闻消息来源称，在全球人工智能安全峰会期间，与罗马教廷和Anthropic关系密切的圈子之间的接触可能有所加剧。

梵蒂冈认为Anthropic是一家至少愿意公开承认人工智能问题无法仅靠科技行业解决的公司。这是通谕文本和陈述过程中强调的一点。该文件一再坚持这样的观点：技术不是中立的，算法不可避免地体现了特定的世界观。

通过其宪法人工智能项目，Anthropic正试图做到这一点：明确地将价值观、规则和原则引入人工智能模型的行为中。

从本质上讲，梵蒂冈和Anthropic之间的联系在于共同的恐惧：日益强大的系统最终可能完全由推动全球人工智能竞赛的经济，地缘政治和竞争激励因素所塑造。

声誉作为产品这个故事也有一个工业层面，而不仅仅是精神层面：对于Anthropic来说，它与梵蒂冈的关系不可避免地带来了巨大的声誉价值。在人工智能越来越成为劳工、国家安全、监控和军事力量辩论的核心的时刻，“道德人工智能公司”的形象是一个显著的优势。

Anthropic的聊天机器人Claude正是围绕用户信任的理念而构建的。该模型“响应”道德宪法，公司的公共语言不断围绕责任和安全，道德本身成为产品的象征性基础设施的一部分。

“伟大”的人性通谕的标题围绕着一个特定的紧张局势：人类被描述为“宏伟的”，但同时能够创造新形式的非人化。从这个角度来看，人工智能本身并不邪恶。它是建造它的人们的镜子。因此，梵蒂冈一再警告新的“数字巴比伦”的风险：一个将人、关系甚至真相本身简化为数据、绩效和效率的社会。

教皇利奥十四世在文中明确谈到了技术力量集中在少数跨国私人行为者手中的问题。这一批评呼应了当代围绕人工智能治理的许多争论：谁控制模型？谁决定他们接受培训的标准？谁拥有未来的基础设施？

在宣读通谕时，克里斯托弗·奥拉（Christopher Olah）说了一些对于一名科技高管来说不寻常的话：他公开承认，即使是最注重道德的公司也仍然沉浸在经济、地缘政治和竞争激励措施中，这可能与“做正确的事”相冲突。

“在这样做的过程中，他公开认识到人工智能问题不能仅仅留给科技公司的自我监管。“21世纪的广岛”在关于人工智能的争论中，与原子弹的比较一次又一次回归。不同之处在于，核技术由国家控制，而人工智能主要在私营公司内开发。

这是通谕的中心观点之一：今天，“技术力量以新的面貌出现，以私人为主。”这就是一种共同恐惧出现的地方--梵蒂冈和人工智能世界中最关注安全的部分都以截然不同的语言表达了这种恐惧：越来越强大的系统，比如现在正在开发的系统，最终可能会受到扭曲的人类动机的引导。

从这个角度来看，“21世纪的广岛”可能不是一个单一的灾难性事件，而是一个缓慢的社会自动化过程，在这个过程中，人类开始将思维、选择、信息自己的方式委托给机器，并相互联系。换句话说，风险在于伟大的人道主义可能会转变为可怕的东西。