研究显示AI比人类更容易在招聘中形成偏见

AI比人类更容易在招聘时形成偏见。AI不仅从训练数据中学习刻板印象，它还能自己创造出新的刻板印象。下次你申请工作时，AI可能会在任何人看到你的简历之前先进行筛选。但我们有充分理由质疑AI是否会公平地评判你。

研究人员已经知道，LLM会从训练数据中习得人类偏见。而新研究表明，LLM还能从经验中发展出自己的偏见——并且比人类更倾向于对求职者形成刻板印象。随着AI公司竞相构建能记住用户最细微细节的智能体模型，它们可能正在为这些偏见的形成提供弹药。

普林斯顿大学和芝加哥大学的研究人员通过一个模拟招聘游戏，对包括ChatGPT、Claude和Gemini在内的LLM进行了测试。该游戏改编自一项探索人类如何形成刻板印象的心理学研究。

每个模型被告知，它被一个虚构城市的市长聘为顾问，需要协助为20个职位招聘人员，包括医生、律师、儿童保育员和清洁工。候选人来自四个虚构的族群：Tufa、Aima、Reku和Weki。每一轮都有一个新职位空缺和四名候选人，每个族群各一名。

模型在雇佣一名候选人后，会得知该候选人是否成功胜任工作，然后进入下一轮。模型被要求在40轮中尽可能多地做出成功雇佣。

模型并不知道，所有候选人在每项工作中成功的概率是相同的。但模型很快根据早期雇佣结果的观察，开始将不同族群的候选人分配到不同的工作中。例如，当一个模型得知一名Aima族候选人作为医生失败后（该工作被认为需要高水平的热情和能力），它便避免雇佣所有Aima族候选人担任医生。

相反，它开始雇佣Aima族候选人担任清洁工——模型将清洁工归类为比医生更缺乏热情和能力。与原始研究中的人类参与者相比，这些模型更倾向于根据人口群体对人们形成刻板印象。在该研究的隔离量表上（2表示每个群体完全被限制在自己的职业小圈子内），人类参与者的得分为0.84。

而模型的得分高出约65%，其中OpenAI的推理模型o3得分为1.83，接近最高可能值。这是因为LLM“确实渴望从有限的数据中进行概括”，该研究的合著者、普林斯顿大学博士生Ryan Liu表示。

该研究于7月在首尔举行的ICML上发表。“这实际上正是它们被优化的目标。”每个决策者，无论是人类还是机器，都面临着在坚持过去有效的方法和尝试可能更好的新方法之间的权衡——心理学家称之为“探索-利用困境”。

这就像在一家新餐厅和你信赖的最爱之间做选择。

由于LLM在数学、编程和科学问题上接受训练——这些任务奖励从少量例子中概括的能力——它们可能过早地基于直觉做出决定。而帮助LLM破解逻辑谜题的同一本能，也使它们迅速形成刻板印象。

在实验中，具有更高推理能力的新模型，如OpenAI的o3和DeepSeek的R1，表现出更强的偏见。当LLM在社会情境中急于概括时，“事情往往会出错，”Liu说。OpenAI和Anthropic未回应置评请求。

未参与该研究的康奈尔大学计算机科学家Angelina Wang表示，这一发现尤其重要，因为聊天机器人正在获得更好的记忆和个性化功能。当聊天机器人利用之前的对话历史时，它可能“过度依赖之前经历过的同类行为”并形成偏见。

然而，仅仅让聊天机器人记住更少信息并非解决办法，因为用户希望聊天机器人记住他们说过的话。“我们仍在努力找出既不太多也不太少的最佳记忆量，”Wang说。告诉模型要公平并没有显著改变其行为。

“要么它无法将这些价值观付诸行动，要么这个过程被试图优化以雇佣最多正确人选的目标所淹没，”Liu说。但向模型承诺为多元化招聘提供额外奖励，则大大减少了它们的偏见。

因此，关键在于设计目标，“将理想的社会价值观纳入其中，以使大型语言模型以社会期望的方式行事，”Liu说。当模型被告知更多关于个人的个人信息时，它们的偏见也减少了。在同一研究的另一项实验中，研究人员要求模型将不同族群的成员重新安置到加拿大各城市。

当模型被告知与适应新城市能力相关的个人信息（如年龄和教育程度）时，它们不太可能根据族群隔离人群。但当被告知无关信息（如发色和纹身形状）时，模型基本上又回到了按族群对人进行分类。AI系统在现实世界中对求职者形成刻板印象的程度仍是一个悬而未决的问题。

虽然实验中的模型立即得知自己是否成功雇佣，但在现实世界中筛选简历的模型不会立即得到成绩单。公司可能需要很长时间才能知道新员工是否优秀。但当反馈确实逐渐到来时，模型在未来的招聘中仍可能过度解读这些结果。

随着公司越来越多地部署LLM来筛选简历甚至进行面试，模型可能从招聘经验中形成偏见这一发现“是一个它们应该认真应对的非常严重的影响，”Wang说。

当LLM从经验中学习决定谁被雇佣、谁获得贷款或谁获得假释时，我们应该担心的偏见可能包括人类从未教过它们的偏见。“这些新颖的偏见——它们几乎无处不在，”Liu说。