-
人工招聘
亚马逊事件之后：人工智能可以消除招聘中的偏见吗？
文/Sushman Biswas
人工智能(AI)可以模仿和放大人类的偏见，然而，当负责任地使用它可以帮助克服偏见，做出客观的，数据驱动的决定。
2014年，当亚马逊(Amazon)组建团队开发其新招聘引擎时，它曾被寄予很高的期望。这个实验性的解决方案使用人工智能来对候选人的简历进行评分，以识别出最优秀的人才。然而，在测试解决方案后不久，研究小组发现该系统并没有以性别中立的方式对候选人进行打分。与任何深度学习算法一样，该算法依赖于对历史数据的训练。不幸的是，嵌入其中的现实世界数据具有显示性别偏见的模式，而人工智能算法最终将其纳入了功能。
亚马逊的招聘引擎经过培训，可以通过观察提交给公司的10年简历中的模式来评估应聘者。不出所料，大多数申请者是男性，这反映了整个科技行业的性别差异。因此，招聘引擎告诉自己，男性候选人更可取。该公司对涉及到可识别性别信息的简历进行了处罚——例如，如果搜索引擎在简历中遇到一个词，说应聘者是“女子篮球队”的一员，那么该公司对该简历的评分就会较低。
不幸的是，这并不是人工智能程序显示出固有偏见的第一个例子。还记得微软的Tay聊天机器人吗?古老的GIGO格言——“垃圾进，垃圾出”仍然成立，在没有保障措施的情况下，向情报系统提供不完整或不准确的数据，仍然是构建公平工作世界的一大威胁。
凯特琳·麦格雷戈(Caitlin McGregor)在专门接受人力资源技术专家采访时表示:“这一切都取决于人工智能是用什么样的数据来做出招聘建议。”McGregor是Plum组织的联合创始人兼首席执行官。Plum组织是一个受I/O心理学启发的人工智能解决方案，旨在消除人类的偏见。“根据技能和知识(考虑学位和多年工作经验)来评估应聘者一直是标准。当招聘经理看到一份简历上写着哈佛(Harvard)或一份享有声望的无薪实习，就会产生偏见。”这些资格往往指向特权，而不是职位适合。因此，当基于人工智能的招聘方案依赖于技能和知识(比如简历和社交媒体刮刮工具)时，同样的偏见就会持续存在，但范围更大。
凯特琳认为，克服偏见的关键是克服我们对技能和知识的痴迷，专注于人才，包括创新、适应能力和沟通能力。“换句话说，你在简历上找不到的东西，”她说。
“人才的基础是通过衡量应聘者的个性、解决问题的能力和社会智商来获得的特质和能力的结合。”数十年的行业/组织心理学研究不仅证明，在预测未来成功方面，人才的能力是技能和知识的四倍，而且他们的偏见也要小得多。
像凯特琳这样的人力资源主管有充分的理由批评传统的雇佣方式，因为这种方式会导致认知偏见。她表示:“我认为，一般来说，人才专业人士想要评估应聘者的不仅仅是一张纸，他们只是不知道如何评估。”“第一步是承认，我们把简历作为招聘过程的第一步，这是毋庸置疑的。”人工智能可能会有所帮助——但如果我们真的打算超越简历，让招聘过程更少偏见、更有预见性，那就意味着我们还必须超越简单地自动化简历关键字匹配的人工智能。
人工智能在招聘中带来的真正机遇是可伸缩性和自动化，可以应用于工业/组织心理学等曾经依赖(通常是昂贵的)咨询服务的实践。“人才数据的可预测性和客观性，现在可以向所有人、而不仅仅是《财富》(Fortune) 500强企业普及，”凯特琳(Caitlin)表示。
人们普遍存在的一个误解是，人工智能只是将既定的实践自动化;然而，复杂的人工智能程序的发展使得解决方案不再是自动化的重复性任务，而是解决人类认知能力有限而无法解决的复杂问题。凯特琳相信，“这是一种人工智能，它可以超越简单的简历筛选，实际上做出更客观、更有预见性的决定——只要输入正确的数据。”
人工智能会取代人工招聘吗?
尽管各行各业都在采用黑箱解决方案，但这种替代人类的解决方案是一种毫无根据的恐惧。人工智能可以基于模式识别或候选匹配为推荐服务;然而，把工作卖给候选人，或者与候选人建立关系，最终将取决于一个有人情味的招聘人员。
凯特琳说:“虽然人工智能听起来很老套，但它确实能让招聘过程变得更‘人性化’，因为它消除了繁琐的重复性工作，让招聘人员能够专注于人际关系。”
选择合适的AI招募方案
当人力资源技术领域的几乎所有供应商都声称已将人工智能集成到其工作流中时，您如何评估满足招聘需求的人工智能解决方案?
凯特琳分享了人力资源主管在专注于人工智能招聘解决方案之前必须考虑的三个关键因素。
首先要考虑的是可伸缩性。人工智能在招聘中的作用是解决昂贵、低效的咨询服务和招聘团队渠道的问题。如果你使用的人工智能没有为你节省时间、金钱和资源，那么它就没有完成它的工作。人工智能产品也应该能够随着公司的成长而成长。如果这不是一个长期的解决方案，那么这项技术就没有达到它的目的。
第二点是一致性。凯特琳对人力资源主管寻求人工智能招聘解决方案的建议是，确保人工智能能够准确地胜任所有组织职能部门的候选人。解决方案必须能够评估工程角色或中层管理角色的候选人，就像评估销售角色的候选人一样容易。
第三个也是最重要的参数是人工智能解决方案用于评估的数据类型。“市场上大量招聘人工智能解决方案使用的是网上搜集的数据。因此，大多数雇佣人工智能解决方案都使用相同的数据集!你不会想有一天抬头看一眼，就发现你的整个办公室都是由一个叫贾里德的白人组成的，他上了常春藤盟校，打过长曲棍球，读过《哈利·波特》(这是我在一个工业组织心理学协会会议上听到的一个真实的例子)!你想要看到一个由拥有对你的公司最重要的品质的人组成的团队。这就是所谓的“垃圾输入，垃圾输出”的意思——如果你的人工智能依赖于无用的数据，你就会得到无用的结果。因为人工智能不是魔法。为了让自己处于建立一个多样化团队的位置，重要的是要着眼于人才获取人工智能解决方案，以创建和综合客观、预测和新数据，”凯特琳说。
总之，人工智能应该被视为一个机会，而不是社会平等的阻碍者。毕竟，从算法中消除偏见比从人类中消除偏见要容易得多，因此人工智能最终有潜力构建一个公平、多样化和公平的工作世界。
以上为AI翻译，观点仅供参考。
原文链接：Can Artificial Intelligence Eliminate Bias in Hiring?
扫一扫 加微信
hrtechchina
