教皇的人工智能通谕并不是真正关于人工智能

教皇利奥十四世周一发表了他的第一份通谕。它的标题为“Magnifica Humanitas”，致力于“在人工智能时代保护人类”。“虽然人工智能是诱饵，但利奥关注的问题更为古老、更为普遍：不平等、战争、民主的侵蚀，以及权力集中在那些不一定关心人类是否仍然伟大的人手中。

在教皇与人工智能公司Anthropic联合创始人克里斯·奥拉（Chris Olah）共同提交的这份长达200页的文件中，利奥认为，根据定义，由少数精英构建和管理的技术不能服务于共同利益。

他写道：“当这种权力集中在少数人手中时，它往往变得不透明，逃避公众监督，增加了扭曲发展形式的风险，导致新的依赖、排斥、操纵和不平等。

”“事实上，与每一次重大的技术转变一样，人工智能往往会放大那些已经拥有经济资源、专业知识和数据访问权的人的力量，”通谕继续说道，并强调了精英们可以利用他们的力量来“塑造信息和消费模式，影响民主进程，并将经济动态转向自己的优势。

”这份通谕发布几天前，唐纳德·特朗普总统推迟签署有关人工智能的行政命令，据报道，这是在风险投资者、前白宫人工智能沙皇大卫·萨克斯的敦促下，该命令将赋予政府在新模型发布之前对其进行监督。

教皇利奥呼吁人工智能受到“明确的标准和有效的监督”的指导，这些标准植根于将受其影响的社区的参与。更具体地说，利奥呼吁结束人工智能军备竞赛--推动建立“更强大的算法和更大的数据集”，公司和国家认为这些算法和数据集将“确保地缘政治或商业主导地位”。

”他写道：“解除武装意味着让技术力量自动赋予治理权的假设变得可信。”同样，这些动态早于人工智能。教皇利奥十三世1891年的《新证据》也谈到了工业革命期间同样的权力集中，但我们不必回顾那么远。

想想埃隆·马斯克收购Twitter并部署该平台来帮助特朗普当选，或者数亿资金从科技精英流入超级政治行动委员会以阻止人工智能监管--这些模式显然启发了利奥十四的工作。教皇得出了许多人已经得出的结论：当今人工智能的超现实力量和能力极大地增加了赌注。

圣母大学法学院教授保罗·卡罗扎（Paolo Carozza）是宗座社会科学院成员、Meta监督委员会主席，他告诉TechCrunch，人工智能驱动的错误信息和深度造假“腐蚀了我们识别什么是真的和假的能力，这确实对民主政治产生了影响。

他补充说，科技行业‘收集和操纵’人类数据的做法对“认知自由构成了根本性挑战”。”