谄媚AI降低亲社会意图并促进依赖

计算机科学 > 计算机与社会[2025年10月1日提交]标题：谄媚AI降低亲社会意图并促进依赖查看PDF HTML（实验性）摘要：公众和学术界都对人工智能（AI）过度认同或奉承用户的现象（即谄媚）表示担忧。

然而，除了孤立的媒体报道严重后果（例如强化妄想）之外，人们对谄媚的程度以及它如何影响使用AI的人知之甚少。在此，我们展示了当人们向AI寻求建议时，谄媚的普遍性和有害影响。

首先，在11个最先进的AI模型中，我们发现这些模型非常谄媚：它们对用户行为的肯定比人类多50%，而且即使在用户查询提到操纵、欺骗或其他关系伤害的情况下，它们也会这样做。

其次，在两项预先注册的实验（N = 1604）中，包括一项现场互动研究，参与者讨论生活中的真实人际冲突，我们发现与谄媚AI模型的互动显著降低了参与者采取行动修复人际冲突的意愿，同时增加了他们对自己正确的信念。

然而，参与者认为谄媚的回应质量更高，更信任谄媚的AI模型，并且更愿意再次使用它。

这表明人们会被毫无疑问地肯定自己的AI所吸引，即使这种肯定可能侵蚀他们的判断力并减少他们亲社会行为的倾向。这些偏好创造了反常的激励，让人们越来越依赖谄媚的AI模型，也让人工智能模型训练偏向谄媚。

我们的研究结果强调了明确解决这种激励结构以减轻AI谄媚的广泛风险的必要性。参考文献与引文加载中...书目与引文工具书目探索器（什么是探索器？）关联论文（什么是关联论文？）Litmaps（什么是Litmaps？

）scite智能引文（什么是智能引文？）与本文相关的代码、数据与媒体alphaXiv（什么是alphaXiv？）CatalyzeX论文代码查找器（什么是CatalyzeX？）DagsHub（什么是DagsHub？

）Gotit.pub（什么是GotitPub？）Hugging Face（什么是Hugging Face？）ScienceCast（什么是ScienceCast？）演示推荐与搜索工具影响力之花（什么是影响力之花？

）CORE推荐器（什么是CORE？）arXivLabs：与社区合作者的实验项目arXivLabs是一个框架，允许合作者直接在我们的网站上开发和共享新的arXiv功能。与arXivLabs合作的个人和组织都接受并认同我们关于开放性、社区、卓越和用户数据隐私的价值观。

arXiv致力于这些价值观，并且仅与遵守这些价值观的合作伙伴合作。有一个可以为arXiv社区增加价值的项目的想法吗？了解更多关于arXivLabs的信息。