教皇利奥十四世的第一份通谕如何评价人工智能的力量

一个算法决定我们所看到的内容，另一个算法过滤我们所读到的内容，还有其他算法进入管理工作、信息和集体选择的过程。在通谕《Magnifica Human》中。人工智能是由教皇利奥十四世签署并于5月25日发布的第一项技术，它不仅仅被视为另一种技术;

它是我们当代日常生活中隐形基础设施的一部分。但文本并不被视为纯粹的技术反映。教皇利奥十四世将人工智能问题置于天主教会社会教义的传统中，并在更新教皇利奥十三世的《新锐》（出版于1891年5月15日）成立135周年之际直接引用了教皇利奥十三世的《新锐》。

该通谕解决了19世纪末工业革命高峰时期的劳动力问题。如果说当时的“新星”是工厂、劳动力和工业资本主义，那么今天的新问题围绕着正在重塑权力、经济和社会关系的数字平台、算法、数据和自动化系统。

因此，通谕并不是关于创新的技术文本，而是试图从人类尊严和共同利益的角度解释数字化转型。教皇写道，技术本身并不邪恶;相反，它属于人类历史和创造力。

但目前的情况在规模和深度上都有所不同：“人类从来没有对自己拥有如此大的权力，”文本观察到，描述了现在以越来越普遍的方式塑造决策过程、集体想象力和社会生活的技术。

罗伯特·弗朗西斯·普雷沃斯特选择从这一点开始：从通过越来越不透明但越来越决定性的系统行使的权力日益集中，以及贯穿通谕的问题：当决策被转化为算法逻辑时，人类尊严、真理的保护、工作、社会正义与和平还剩下什么？

解除武装技术通谕中有一句话成为解释整个场景的关键：“解除技术的武装。“其意义与任何减缓人工智能发展或永远否认其潜在变革影响的企图相去甚远。对于罗伯特·弗朗西斯·普雷沃斯特来说，解除人工智能的武装意味着防止它成为一种能够主宰人类生存的力量形式。

对于Leo十四来说，重点不是技术本身，而是它的组织和应用。教皇写道，人工智能是当今全球“最高性能算法”和“最大数据中心”竞赛的一部分，竞争优势也成为地缘政治。

在这种背景下，少数参与者集中了数字基础设施、数据和计算能力，这影响了信息、经济甚至民主。解除武装意味着打破技术力量和治理权之间的等式。教皇解释说：“正如每个重大技术转折点所发生的那样，人工智能首先往往会增强那些已经拥有经济资源和数据访问权限的人的力量。

”通谕明确指出，仅仅监管技术是不够的：必须将技术从垄断中夺走，使其透明并接受挑战--也就是说，使其由多元化行为者“宜居”。最重要的是，必须防止人工智能成为少数人经济、政治或军事统治的工具。这不是一个道德隐喻：它呼吁防止竞争逻辑将共享基础设施转变为控制系统。

选择现实的系统中的真理如果技术集中力量，那么首先的具体影响之一就涉及集体真理的形成方式。通谕解决了虚假信息问题，但以一种明显更深层次的方式，因为感知到的现实，或者更确切地说，经验，越来越多地被决定展示什么和隐藏什么的系统过滤。

这不仅仅是假新闻或各种形式的假内容。问题在于平台和算法根据最大化注意力和参与度的标准选择信息。

换句话说，可见的不一定是最真实的，而是最能产生反应的。通过这种方式，真理不会消失，而是依赖于不透明的系统，这些系统影响观点、认知和集体选择，但并不总是清楚如何影响。

这就是为什么通谕坚持一项非常具体的文化和教育责任：培训能够识别这些机制的人，而不是将公共判断的构建仅委托给响应市场或权力逻辑的数字基础设施。作为断层线工作同样的动态贯穿整个工作世界，这是通谕中最具体的一点。

人工智能不仅被描述为自动化，而且被描述为一种可以重新定义谁工作、如何工作以及自主性裕度的力量。在文本中，教皇明确谈到了与技术失业相关的“社会灾难”风险，而创新主要是由削减成本和增加利润来驱动的。

在这种情况下，许多活动可能会被取代或清空人类内容，工人只能从事重复性或严格控制的功能。通谕还详细介绍了新的控制形式：自动监控、任务碎片化和自主感的丧失。令人担忧的不仅是失业，而且还包括工作转变为缺乏人性、缺乏创造力、因此缺乏自由的东西。

正是在这里，从文件一开始就提到的与教会社会教义的联系重新出现。正如Rerum Novarum试图解释工业革命对人们具体生活的影响一样，Magnifica Humanitas试图对数字革命做同样的事情。

在这一愿景中，工作不仅仅是经济生产或需要优化的绩效，而是一个人表达尊严、责任和参与社会生活的空间。因此，如果人工智能最终将工人简化为可测量、可控和可替代的功能，那么问题不仅仅是经济或技术问题;

它将成为一个社会、政治和深刻的人类问题。战争作为自动冲突空间当技术进入冲突维度时，文本中最激进的方面就出现了。教皇利奥十四世质疑“正义战争”理念的整个架构，他认为这一理念越来越不足以描述当代现实。

不是因为自卫权被剥夺，而是因为冲突的性质正在发生变化。今天的战争已经渗透了自动化系统，这些系统影响着信息、战略和对敌人的感知。算法不会打架，但它们实现了一种新形式的距离，在这种距离中，决策逐渐从人体和人类责任中解脱出来。

这就是为什么通谕设定了明确的限制：将致命或不可逆转的决定委托给人工系统是不可接受的。道德责任不能委托，也不能在自动化链条中溶解。在这篇文章中，“解除技术武装”的概念回归并成为一个具体原则，其中强调了剥夺机器参与生死决策能力的重要性。

开放的建筑工地Magnifica Humanitas的最终形象是一个建筑工地。不是一个封闭的系统或已经定义的模型，而是一个仍在构建中的过程。在这个“建筑工地”内，技术、经济、信息和冲突交织在一起。

不是因为一切都是一样的，而是因为今天的一切都是内在相连的