教皇AI通谕的真正焦点并非AI本身

教皇利奥十四世周一发布了他的首份通谕。这份题为“Magnifica Humanitas”的文件致力于“在人工智能时代保护人类”。虽然AI是切入点，但利奥关注的问题更为古老且普遍：不平等、战争、民主的侵蚀，以及权力集中在那些未必关心人类整体是否依然伟大的人手中。

在这份长达200页的文件中——教皇与AI公司Anthropic联合创始人Chris Olah共同发布——利奥认为，由少数精英构建和治理的技术，从定义上就无法服务于公共利益。

他写道：“当这种权力集中在少数人手中时，它往往变得不透明并逃避公众监督，增加了发展扭曲的风险，从而引发新的依赖、排斥、操纵和不平等。”通谕进一步指出：“事实上，与每一次重大技术变革一样，AI往往会放大那些已经拥有经济资源、专业知识和数据访问权的人的力量。

”这凸显了精英们可能利用其权力“塑造信息和消费模式、影响民主进程、并引导经济动态以利于自身”的担忧。

这份通谕发布前几天，唐纳德·特朗普总统推迟签署关于AI的行政命令——该命令本应赋予政府对未发布新模型的监督权——据报道，这是在风险投资人、前白宫AI主管David Sacks的敦促下做出的。

教皇利奥呼吁AI应遵循“明确的标准和有效的监督”，这些标准应植根于受其影响社区的参与。更具体地说，利奥呼吁结束AI军备竞赛——即推动构建“更强大的算法和更大的数据集”，企业和国家认为这能“确保地缘政治或商业主导地位”。

他写道：“解除武装意味着让技术权力自动赋予治理权的假设失去可信度。”同样，这些动态早于AI出现。教皇利奥十三世1891年的《Rerum Novarum》就曾论及工业革命期间同样的权力集中，但我们不必回溯那么远。

想想Elon Musk收购Twitter并利用该平台帮助特朗普当选，或者科技精英向超级政治行动委员会投入数亿美元以阻止AI监管——这些模式显然启发了利奥十四世的著作。教皇得出了许多人已经得出的结论：当今AI的超现实力量和能力极大地提高了赌注。

圣母大学法学院教授Paolo Carozza——宗座社会科学院成员兼Meta监督委员会主席——告诉TechCrunch，AI驱动的错误信息和深度伪造已经“侵蚀了我们辨别真伪的能力，这对民主政治确实产生了后果”。

他补充说，科技行业“收集和操纵”人类数据的做法对“认知自由构成了根本性挑战”。