德国法院裁定谷歌须为AI Overviews虚假陈述担责

德国一家地方法院作出了一项裁决，可能重塑全球搜索引擎和基于人工智能的聊天机器人的运营方式。慕尼黑地方法院初步裁定，谷歌对其AI Overviews功能产生的一系列虚假陈述负有责任，要求该公司防止通过其搜索引擎传播错误或不准确的主张。

该裁决源于Decoder首次报道的一起案件，其中两家出版商发现，谷歌AI生成的摘要将它们在特定搜索中与可疑商业行为、诈骗和订阅相关欺诈联系起来，而没有任何依据。据报道，今年早些时候，受影响的公司向这家科技巨头发出了停止函。

谷歌否认承担责任，辩称其自动摘要功能会警告用户信息可能包含错误，应独立验证。法院分析认为，谷歌的AI将与其他被标记为可能存在非法行为的公司对应的信息与原告的数据相结合，生成了搜索引擎链接的任何来源中都没有出现的关联。

当局发现，与传统搜索引擎仅显示包含第三方声明的链接列表不同，谷歌的工具基于对互联网上可用信息的误解生成了“独立的、新的、实质性的声明”。法院认为，纠正错误信息不是第三方的责任。谷歌是唯一有能力修改其AI生成摘要所依赖技术的实体，因此“必须承担责任”。

此外，法院认为谷歌的辩护缺乏依据，因为受质疑的摘要“包含搜索结果中完全没有出现的陈述”。法院对AI在呈现搜索结果中的角色的解释可能使此案成为历史性先例。它认定一家大型科技公司对其最先进开发成果在广泛使用平台上的影响负责。

迄今为止，在大多数法律体系中，搜索引擎被视为仅便于访问第三方创建并可在网络上获取内容的工具。这一地位使它们在发布的信息虚假、不准确、误导甚至诽谤时享有一定程度的保护。然而，德国法院认为，当搜索引擎整合生成式AI系统时，这一保障不再适用。

根据其推理，这项技术能够基于多个来源产生不存在的声明，因此，负责运营该技术的公司必须对由此产生的内容承担责任。法官还得出结论，尽管谷歌因AI模型固有的幻觉可能性而鼓励用户验证信息，但这一警告并不能免除内容分发者的责任。

否则，他们认为，虚假陈述的受害者将几乎毫无防备，因为原始来源从未发表过这些陈述，因此无法被起诉。同样，法院认为，AI系统生成的结果不能受到言论自由原则的保护，因为它们是公司设计、训练和管理的算法的产物，而非个人意见的表达。

作为防止再次发生的预防措施，该裁决要求谷歌删除本案中被视为诽谤的大部分陈述，并承担诉讼产生的80%的法律费用。据Ars Technica引用公司发言人的话，该决定可能被上诉。

声明称：“我们在AI Overviews的质量上投入了大量资金，以确保绝大多数回复提供准确信息，并且它们旨在反映网络上存在的信息。”

“我们正在仔细审查这一决定，该决定尚未最终生效。”德国法院的裁决可能对人工智能行业产生全球影响。OpenAI、Anthropic和Perplexity AI等公司也警告用户，其系统生成的回复可能包含错误或具有误导性，并像谷歌一样建议在使用前验证信息。

这一警告通常出现在用户在平台上创建账户时同意的服务条款中。然而，本案认为，此类警告不足以免除开发者的责任。裁决认为，当AI生成未直接出现在其原始来源中的新声明时，设计、训练、运营和管理该系统的公司必须对这些声明造成的任何损害承担法律责任。

本文最初发表于WIRED en Español，并从西班牙语翻译而来。