商院新闻 | AI 筛选简历也会偏心？史密斯商学院的研究给出了答案

2026-07-06

随着人工智能在招聘流程中日益普及，马里兰大学史密斯商学院的一项新研究揭示了一种意想不到的偏见来源：人工智能系统会偏袒自身的输出结果。

在一篇题为《算法招聘中的人工智能自我偏好：实证研究与洞见》的工作论文中，史密斯商学院在读博士Jiannan Xu与两位博士毕业生Gujie Li ’25 （现任职新加坡国立大学）和Jane Yi Jiang ’24（现任职俄亥俄州立大学）共同记录了招聘中使用的大语言模型（LLM）如何系统性地偏袒由同一模型生成的简历。

该研究结果已引起《The Register》、《El Confidencial》、《New York Post》和《Business Insider》等媒体的关注。它揭示了人工智能辅助决策中一个此前未被充分重视的风险——算法偏见不再源于性别、年龄等人类人口统计特征，而是源于人工智能模型之间的交互作用。

招聘流程中的新型偏见

如今，求职者越来越多地使用人工智能工具来优化简历和求职信，而雇主也部署了类似的技术来筛选大量候选人。人工智能的这种双重用途促使研究人员探究这些系统是否更倾向于选择与自身输出内容相似的信息。

这项研究基于一项大规模的、受控的简历实验，该实验涉及超过2200份简历和多个主流人工智能模型，最终发现了“自我偏好偏差”的有力证据。研究人员发现，在评估候选人时，即使简历质量相当，LLM也会对自身生成的简历给予更高的评价，而不是对人类撰写的简历，甚至是对其他人工智能模型生成的简历产生偏好。

该研究报告称，在比较人工智能生成的简历和人类撰写的简历时，主流商业模型和开源模型的自我偏好率约为67%至82%。研究人员将这种模式解释为模型特定的写作风格可能会影响评估结果，而与申请人的资质无关。

对求职者的实际影响

为了评估运营影响，研究人员对24个职业的招聘流程进行了模拟。结果显示，使用与雇主作为筛选工具的相同的AI系统的候选人，相比提交人工撰写的材料的同等资质候选人，其进入面试环节的概率可能高出23%至60%。

研究发现，这种差异在销售和会计等商业相关职位中尤为明显，因为标准化的语言和格式可能会放大人工智能生成的简历与评估标准之间的相似性。

研究人员还发现了一个次要影响：LLM往往更倾向于优先使用自身生成的内容，而非其他模型生成的内容。不过，这种“LLM与LLM”之间的偏向比AI生成简历与人工撰写简历之间的差距要小且不那么一致。

简单措施带来显著成效

重要的是，该研究提出了一些切实可行的干预措施，可以以最小的成本减少自我偏好偏差。研究人员重点介绍了两种方法：

系统提示：引导人工智能评估者忽略简历来源，仅关注技能和资质。
模型多样性（多数投票）：在筛选决策中使用多个模型，以抵消任何单一系统的影响。

在研究者的实验中，这些策略将自我偏好偏差降低了一半以上，使结果显著接近中性评估。

对企业和政策制定者的启示

研究结果将人工智能公平性讨论从人口统计偏差扩展到了人工智能模型之间的相互作用。研究人员指出，即使候选人的资质相当，这些相互作用仍可能以微妙却具有重大影响的方式影响最终结果。

对于组织而言，该研究强调了有必要对基于人工智能的招聘流程进行审计，并设计相应的保障措施，以防止特定工具带来意想不到的优势。

对于政策制定者而言，研究人员建议扩大透明度和问责框架。潜在的措施包括要求披露在简历筛选中使用人工智能的情况，以及将自我偏好指标纳入第三方对招聘系统的审计中。

随着人工智能的普及，自动化系统之间的交互在招聘、教育和内容审核等领域可能会变得更加普遍。研究人员强调，了解人工智能模型如何评估和响应自身的输出，对于确保结果的公平性至关重要。