AI 介入招聘:消除性别、年龄等歧视

阅读数:2 2020 年 2 月 7 日 14:26

AI介入招聘:消除性别、年龄等歧视

AI 技术不仅可以用于面试,还可以将招聘广告推荐给可能的候选人,并预测意向人是否会从原公司离职。 复工在即,免不了有些程序员希望寻找新的工作机会。然而,在招聘中,性别、年龄、学历甚至地域都可能成为被歧视的因素。于是,国外一群研究学者开始研究如何通过人工智能技术来替求职者自动匹配最佳岗位,以淡化人在这个过程中起到的作用。

AI“面试”求职者

根据领英的调查数据显示,过去一年已经有 67% 的招聘人员通过使用人工智能技术节省了大量时间,但也有批评者认为,这样的系统会带来偏差,缺乏问责制和透明度,并且不能保证其准确性。以国外一家名为 HireVue 的公司为例,该公司对外出售求职面试视频平台,该平台可以使用人工智能系统来评估候选人,并且声称可以预测求职者获得某职位的可能性。该公司表示,它会聘用心理学家以及专业人士来帮助开发定制评估算法,以反映雇主希望雇用的某类角色(例如销售代表或计算机工程师)的理想特征。

然后,该算法将分析候选人在视频采访中对问题的回答,对他们的言语反应以及某些情况下的面部动作进行评分。HireVue 声称该工具已经被希尔顿、联合利华在内的大约 100 家公司使用了,比进行相同面试的招聘经理更能准确预测工作绩效。

AI介入招聘:消除性别、年龄等歧视

但是,目前该系统被一家非营利性组织投诉,声称其存在欺骗性交易行为,目前尚未给出决断。据彭博社报道,负责就业歧视的联邦机构平等机会就业委员会(EEOC)目前正在调查至少两个涉及算法决定工作的案件。

AI 在面试之外的应用

其实,这类技术不仅应用在面试一个环节,整个招聘过程都可以利用这项技术,从招聘广告投放、预测潜在候选人到与意向者联系,整个环节都可以通过技术进行把控。目前,已经有公司开始使用人工智能技术对候选人进行排名,这类工具非常流行。部分求职平台开始将职位和潜在人选之间的特征进行匹配,以帮助求职者寻找满意的工作。

此外,已有公司表示可以通过收集到的候选人数据、过往职位和从事行业来预测员工是否可能离开原来的工作岗位,从而接受新的职位。

AI介入招聘:消除性别、年龄等歧视

此外,AI 可以快速筛选简历,谷歌对招聘人员与 Hire 的互动进行了研究,并注意到招聘人员使用“Ctrl+F”功能搜索某些技能。通过人工智能,Hire 可以独立扫描搜索字段或职位描述中的术语,并在简历上突出显示它们,以及同义词和缩略词,也有公司通过创建聊天机器人与求职者进行简单的对话沟通,从而消除招聘经理打电话的时间,或者通过出示简单的游戏判断求职者的性格。

AI 就足够公平吗?

支持者认为,人工智能系统速度更快,可以处理招聘人员无法快速计算的信息,这些工具可帮助人力资源部门在大量应聘者中更快地审核,并最终降低招聘成本。与过度劳累的招聘人员浏览数百份简历和求职信相比,系统可能更公平,更彻底。

此类工具可以自动识别以前成功录用的申请材料中的特征,并在新申请人提交的材料中寻找该特征的迹象,一些系统可以在每个应用程序中考虑 16 至 25 个因素,并可以计算出以“毫秒”为单位的通勤距离之类的东西。

这些系统的运作规模通常大于招募人员的规模。例如,HireVue 声称其视频平台中使用的人工智能评估了“ 成千上万的因素”。即使公司使用的相同的基于 AI 的招聘工具,他们也可能会使用针对自己招聘偏好进行优化过的系统。另外,如果不断对新数据进行训练,则算法可能会发生变化。

这些招聘工具的支持者还声称,人工智能可用于避免人为偏见,例如对某所大学毕业生的无意识偏爱,对妇女或少数民族的偏见。他们认为 AI 可以帮助剔除(或抽象化)与候选人身份有关的信息,例如其姓名、年龄、性别或学校,并更公平地考虑申请人。

关于 AI 可能至少比偏见的人类做得更好的想法在今年早些时候启发了加利福尼亚州立法者,提出了一项法案,敦促政策制定者探索使用新技术,包括“人工智能和基于算法的技术”、“减少招聘中的偏见和歧视。”

谁来负责训练这些 AI 工具?

事实上,这些 AI 系统做出的判断是否公平与其接受训练的数据息息相关,如果只是将公司内部过往雇用人员的简历拿来训练系统,那结果往往也继承了做出这些选择的招聘经理的有意识和无意识的偏好,这种方法可以帮助找到出色的候选人,但并不能表示公平。

此前,路透社就曾报道过亚马逊制定了一种招聘算法,在某些职位上无意偏向于男性申请人而不是女性,该系统接受了提交给该公司的十年简历数据的培训,而这些简历大多来自男性。随后,亚马逊的发言人表示,该系统从未使用过,被废弃的原因有很多,其中包括算法是原始的,并且这些模型随机返回了不合格的候选人。

反对者表示,没有定期、广泛的审核,就无法使用这些系统进行招聘。这是因为,即使明确指示机器学习工具不要歧视女性,它也可能也会无意间学会歧视其他指向性因素,比如从女子大学毕业。

而且,如果在 Facebook 之类的在线平台上发布广告,由于该平台算法产生的偏见,很多人甚至可能看不到任何职位。

批评家们对这些工具是否能如其所说表示怀疑,尤其是当他们对候选人的心理活动、情感和职位适合性提出广泛要求时。斯坦福大学组织行为学教授 Adina Sterling 指出,如果设计不周密,算法可能会将其偏好推向单一类型的候选人,这样的系统可能会错过非常规的申请者,比如一位演员未来有可能可以胜任销售岗位,并且非常出色。

算法有利于规模经济,但不利于细微差别。

谁来监管这些工具?

一位就业方向的律师 Mark Girouard 表示,人工智能和算法选择系统属于《雇员甄选程序统一准则》,该准则由联邦机构于 1978 年制定,旨在指导公司的甄选标准和雇佣评估。这些 AI 工具中有许多都说遵循五分之四的规则,但是专家指出,该规则只是一项测试,Rieke 强调通过测试并不意味着这些 AI 工具会按照要求行事,只要是随机选择候选人的系统几乎都可以通过测试。

在针对 HireVue 的案件中,EPIC 认为该公司未达到既定的 AI 透明性准则,HireVue 方面则表示,遵循统一准则和其他专业组织设定的准则。该公司还表示,其系统接受了多种数据集的培训,其工具已帮助其客户增加了员工的多样性。

招聘是一个非常社会化的过程,现在看来想要通过 AI 技术完全掌握还需要走很长一段路。

评论

发布