教皇利奥十四世关于人工智能的通谕注释

教皇利奥十四世关于人工智能的通谕注释2026年5月25日梵蒂冈今天早上发表了：教皇利奥十四世尊者的伟大人文报关于在人工智能时代保护人类。这是一份非常有趣的文件。这是我见过的关于将人工智能融入现代社会的道德的最清晰的文章之一。

教皇利奥十四世选择利奥这个名字是为了纪念教皇利奥十三世，利奥十三世因其1891年关于“资本和劳工的权利和义务”的《新锐通谕》而闻名。梵蒂冈新闻的这篇报道进一步澄清了这一决定的重要性：教皇利奥十四世在与红衣主教团会面后首次正式会面时解释了选择教皇名字的部分原因。

“这有不同的原因，”他说，然后继续解释说，他选择狮子座这个名字“主要是因为教皇利奥十三世在他的历史性通谕《新锐》中谈到了第一次大工业革命背景下的社会问题。

"“在我们这个时代，”他继续说道，“教会向每个人提供了社会教学的宝库，以应对另一场工业革命和人工智能领域的发展，这些发展对捍卫人类尊严、正义和劳动提出了新的挑战。”现在我们得到了教皇利奥十四世自己关于人工智能革命的通谕。

这里有很多内容，但写作风格非常平易近人，包括对非天主教徒来说。

我的一些亮点（我在和我们的狗散步时听了大部分通谕，这是我第一次尝试ElevenReader iPhone应用程序。它工作得很好：我粘贴了文档的URL，它会以非常高质量的声音读给我听，并突出显示每一段。

)以下是我的一些亮点。在每种情况下，下面的重点都是我的。以下是第98节中对LLM可解释性问题的有用描述：首先，鉴于这些系统的开发速度惊人，任何有关人工智能的声明都有可能很快过时。其次，我们所有人，包括设计它们的人，对它们的实际功能只有有限的了解。

事实上，当前的人工智能系统更多的是“培育”而不是“构建”，因为开发人员并没有直接设计每个细节，而是创建一个智能在其中“成长”的框架。“因此，基本的科学方面--例如这些系统的内部表示和计算过程--目前仍然未知。

我喜欢第83节对发展与尊严之间关系的描述：对于个人和国家来说，发展既是一种义务，也是一种权利。需要有最低条件，使每个人和人民能够按照其尊严蓬勃发展，而不是处于依赖状态或被排除在获得必要商品的机会之外。

当发展以人为本而不是财富的积累时，当发展涉及人民和个人时，它才是真正的人性。正义要求承认社会权利和人民权利，并包括对子孙后代的责任。如果发展增加了一些人的消费，同时将成本和负担转嫁给其他人，或者将整个地区置于从属地位，阻止它们充分发挥潜力，那么发展就不是真正的人。

在第100节中提到了受文化偏见和谄媚的影响：在个人使用中，三个方面特别值得仔细考虑：获得结果的容易程度、客观性的印象和人类沟通的模拟。获取信息、复杂分析、媒体内容和实用帮助的速度和简单性无疑使生活变得更轻松。

然而，它们也会鼓励过度依赖和寻找现成的答案，并削弱个人的创造力和判断力。这些系统提供的回应和建议的明显客观性可能会导致我们忽视这样一个事实：它们反映了设计和训练它们的人的文化假设，以及它们的所有优势和局限性。

对积极的人际沟通的人为模仿--建议、同理心、友谊甚至爱的话语--可以很吸引人，有时甚至真正有帮助。

然而，对于不太挑剔的用户来说，它也可能具有误导性，造成与真正的个人主题关系的假象。当言语被模拟时，它们不会建立真正的关系，而只是建立它们的外表。当涉及缺乏真正关系和情感纽带的环境时，人为模仿的护理或支持可能会变得特别危险。

101项涉及环境影响的内容：当前的人工智能系统需要大量的能源和水，极大地影响二氧化碳排放，并对自然资源提出了巨大的需求。随着复杂性的增加，特别是在大型语言模型的情况下，对计算能力和存储容量的需求也在增加，这需要由机器、电缆、数据中心和能源密集型基础设施组成的广泛网络。

因此，开发更可持续的技术解决方案至关重要，以减少环境影响并帮助保护我们共同的家园。

102涵盖了算法系统在没有“同情、怜悯、宽恕”的情况下做出影响人们生活的决策的风险：人工智能的使用从来都不是一个纯粹的技术问题：当它进入影响人们生活的过程时，它就会涉及权利、机会、地位和自由。

重要和敏感的决策--涉及就业、信贷、获得公共服务甚至一个人的声誉--有可能完全委托给自动化系统，这些系统不知道“同情、仁慈、宽恕，最重要的是，人们能够改变的希望”，因此可能会产生新的排斥形式。

105强调在如何应用这些系统方面需要人的问责制：为了让人工智能尊重人类尊严并真正服务于共同利益，必须在每个阶段明确定义责任：从设计和开发这些系统的人到使用它们并依赖它们做出具体决策的人。然而，在许多情况下，导致结果的内部流程仍然不透明，从而更难分配责任和纠正错误。

这就是问责制变得至关重要的地方：确定谁必须“负责”决定、证明其合理性、监控其，并在必要时质疑其并补救所造成的任何伤害的可能性。

108处涉及人工智能如何放大拥有资源的人的力量：事实上，与每一次重大技术转变一样，人工智能往往会放大那些已经拥有经济资源、专业知识和数据访问权限的人的力量。

鉴于共同利益和商品的普遍目的地，这引起了严重的担忧，因为规模虽小但影响力很大的群体可以塑造信息和消费模式，影响民主进程并将经济动态引导到自己的利益，从而破坏社会正义和各国人民之间的团结。

因此，人工智能的使用，尤其是当它涉及公共产品和基本权利时，必须以明确的标准和有效的监督为指导，并以参与和辅助性为基础。同一部分明确呼吁数据更多地被视为公共产品：[. . . ]此外，数据的所有权不能完全掌握在私人手中，而必须进行适当的监管。

数据是许多贡献者的产品，不应被视为出售或委托给少数人的东西。正如圣约翰·保罗二世关于集体商品的建议那样，有必要进行创造性思考，以本着参与的精神将数据作为共同或共享的商品来管理。鉴于Palantir是以《指环王》的参考文献命名的，我不禁想知道JR是否R.托尔金