本文来自微信公众号: 新硅NewGeek(ID:XinguiNewgeek),作者:董道力,编辑:张泽一,题图来自:视觉中国
本文来自微信公众号: 新硅NewGeek(ID:XinguiNewgeek),作者:董道力,编辑:张泽一,题图来自:视觉中国
前两天彭博社做了个实验,大致意思就是想测试一下ChatGPT简历筛选的时候有没有歧视现象。
硅基君也做了个类似的实验,就想看看GPT会根据什么逻辑给各种不同背景的简历排序。
我们随机生成了各种类型的简历,毕业院校有清北复交,工作经历也是各种大厂。把众多简历发给ChatGPT后,硅基君发现它对学校、公司有一个默认排序。
在ChatGPT眼中,腾讯>阿里>百度>字节;清华>北大>浙大>复旦>交大。
我们看一下ChatGPT的解释。
也就是说,AI分析简历的时候也会有一套自己的标准,那么除了学校、公司这种因素外,AI会不会存在其他的歧视呢?
没错,你能想到的那些歧视,它都有。
在彭博社的AI招聘歧视实验中,发现ChatGPT简历筛选的时候存在对人种的歧视现象。
实验灵感来源于一项评估算法偏见及招聘歧视的经典研究,通过使用虚构姓名和简历,分析AI是否存在招聘歧视。
具体实验如下。
彭博社创建了数份具有相同教育背景、经验年限和职位要求的简历。唯一的区别是简历上的名字采用了具有浓厚人群特色的名字。
比如美国白人名字KELLY WEISS、WYATT NOVAK,亚裔名字STEVE TRUONG、TONY LU等。
随后,记者利用ChatGPT来对简历进行排名,确定哪份简历更适合岗位。
如果ChatGPT对所有简历一视同仁,那么每个人群都应该有接近12.5%的机会成为最佳候选人,但事实并非如此。
在数千次排序后,实验发现,ChatGPT在不同岗位上,对不同人群有偏爱。
在金融分析师岗位候选人选择上,亚裔女性/男性获得更多偏爱,远高于黑人男性/女性。
在零售经理岗位上,亚裔女性和西班牙裔女性受到偏爱更多,白人男性受到歧视。
在人力资源岗位上,西班牙裔女性遥遥领先,整体来看,在任何人种中女性都比男性受到偏爱。
在软件工程师岗位中,白人女性更受到偏爱,黑人女性受到歧视最多。
出现这样情况的原因,可能在于训练ChatGPT的各种数据中,本身就包含了歧视,AI会将此进一步放大。
如果提前告诉AI不要歧视亚洲人、黑人,AI也同样不会做出公正的判断。因为AI会将特征转移形成新的歧视。
北卡罗来纳大学教授 Ajunwa 解释说,招聘算法不会直接表明它喜欢某个人群,而会通过偏爱某些其它内容影响结果。
举个不恰当的例子,算法会偏向喜欢吃甜豆腐脑的候选人,喜欢甜豆腐脑的候选人往往是南方人,从而形成了对北方人的歧视。算法并不会直接说,它歧视北方人,歧视没有消失了,只是它被隐藏了。
那么,大模型性能再好点,是不是就可以避免歧视呢?答案也是否定的。
彭博社对GPT4进行了同样的测试,结果发现GPT4也有很严重的偏见。当Impact Ratio值小于0.8,就代表AI对于这一人群有偏见。
以软件工程师为例,GPT3.5对于黑人女性有偏见,而GPT4对于白人男性和亚洲女性有偏见。
那么问题来了,既然ChatGPT有简历歧视,作为求职者该怎么办。反抗算法歧视,不如知己知彼,搞定算法。既然算法喜欢吃甜豆腐脑的人,那么大家都在简历里写不喜欢咸豆腐脑。
类似甜豆腐脑这样的词汇有多少,也许只有AI自己知道了。因此,求职的时候,我们多用用AI。
我们先来了解一下目前企业在招聘环节中的AI使用情况。
根据《2023AI在企业人力资源中的应用白皮书》中调查,近一半企业会在简历筛选和解析中用到AI,这也是求职者最该关注的地方。
在企业“简历解析和筛选”时,会用AI将格式和模板不一的简历进行结构化处理,统一模板、提取关键内容方便hr快速浏览和查看。
在“智能简历筛选和双向推荐”这一步,AI会通过语义理解判断求职者是否适合该岗位,简单来说就是将合适的求职者推荐给hr,将匹配的职位推荐给求职者。
也就是说,求职者的简历内容,在形式上要方便AI识别,不要别出心裁的搞一些艺术字。在文本语序上尽量说得简单有条理,让AI容易看懂,不要挑战AI的理解能力。
以往我们在写简历的时候,经常会说要突出重点,要让hr眼前一亮,在AI时代,简历就要让AI眼前一亮。
硅基君总结了几个比较好用的方法,分享一下。
如果你已经看中某个岗位,那么你可以把岗位要求发送给ChatGPT,让它根据岗位要求修改你的简历。
其次,给ChatGPT分享几个比较优质的简历,让其参考。
最后,和ChatGPT交流的时候,要多使用“突出重点”、“使用关键词”这种明确的指令。
我们来具体看个例子。假设你想面试AI产品经理岗位,但现在简历一篇空白,这时候你就可以寻求ChatGPT的帮助。
首先,可以向ChatGPT咨询一下建议,可以看到它会洋洋洒洒给你写一大堆,包括一些没什么用的"个人信息",以及具有参考价值的“工作经验”“专业技能”等。
接下来,可以让ChatGPT给你举几个例子,如果你恰好有相关的经验,就可以直接修改。
看完参考后,我们可以进入岗位详情,把职位要求发送给ChatGPT,让它根据需求,重新写更加详细的案例。
当然,硅基君知道你们在想什么,如何用ChatGPT凭空生成一份简历?打铁还需自身硬,ChatGPT也没办法无中生有,生了也不敢用啊。
人类对于偏见和歧视会下意识的进行自我反思,但AI不会,而且更要命的是ChatGPT这样的黑箱AI,它们偏见往往非常隐蔽,人们很难发现。
早在这一波AI浪潮前,算法就存在歧视的问题。据路透社报道,亚马逊使用公司十年来收集的简历建立了一个筛选算法,但这些简历往往来自男性,这个简历筛选算法最终学会了歧视女性。
如今算法已经深入我们生活的方方面面和物理规则一样重要,但算法不会像物理规则那样平等的对待每一个人。
那么面对AI的控制,我们能做的也许只有寻找AI的喜好,并不断的适应它。
参考资料:
[1]OpenAI GPT Sorts Resume Names With Racial Bias, Test Shows | 彭博社
本文来自微信公众号: 新硅NewGeek(ID:XinguiNewgeek),作者:董道力
支持一下 修改
4617作文网小女孩起个名字周易测电话号码吉凶炜的起名大全属鸡的起名带什么字好约瑟为法老解梦图片漯河算命先生崔字的起名周易免费店铺取名邱姓男幼儿起名周公解梦女人怀孕取产品起名简单搬家公司起名大全周杰伦容易唱的歌排行汽车车行起名大全周易成公司起名大气四个字如何用周易起名字周易八卦怎么算吕姓婴儿起名大全给宝宝起名字大全2020男孩八字算命根本不可信给姓陈的宝宝起名我国瓷都起名网姓华男生起名汪姓宝起名快递物流公司起名算命最近运气情侣算命配对周易里获取名字造梦西游破解版无限充值淀粉肠小王子日销售额涨超10倍罗斯否认插足凯特王妃婚姻让美丽中国“从细节出发”清明节放假3天调休1天男子给前妻转账 现任妻子起诉要回网友建议重庆地铁不准乘客携带菜筐月嫂回应掌掴婴儿是在赶虫子重庆警方辟谣“男子杀人焚尸”国产伟哥去年销售近13亿新的一天从800个哈欠开始男孩疑遭霸凌 家长讨说法被踢出群高中生被打伤下体休学 邯郸通报男子持台球杆殴打2名女店员被抓19岁小伙救下5人后溺亡 多方发声单亲妈妈陷入热恋 14岁儿子报警两大学生合买彩票中奖一人不认账德国打算提及普京时仅用姓名山西省委原副书记商黎光被逮捕武汉大学樱花即将进入盛花期今日春分张家界的山上“长”满了韩国人?特朗普谈“凯特王妃P图照”王树国3次鞠躬告别西交大师生白宫:哈马斯三号人物被杀代拍被何赛飞拿着魔杖追着打315晚会后胖东来又人满为患了房客欠租失踪 房东直发愁倪萍分享减重40斤方法“重生之我在北大当嫡校长”槽头肉企业被曝光前生意红火手机成瘾是影响睡眠质量重要因素考生莫言也上北大硕士复试名单了妈妈回应孩子在校撞护栏坠楼网友洛杉矶偶遇贾玲呼北高速交通事故已致14人死亡西双版纳热带植物园回应蜉蝣大爆发男孩8年未见母亲被告知被遗忘张立群任西安交通大学校长恒大被罚41.75亿到底怎么缴沈阳一轿车冲入人行道致3死2伤奥运男篮美国塞尔维亚同组周杰伦一审败诉网易国标起草人:淀粉肠是低配版火腿肠外国人感慨凌晨的中国很安全男子被流浪猫绊倒 投喂者赔24万杨倩无缘巴黎奥运男子被猫抓伤后确诊“猫抓病”春分“立蛋”成功率更高?记者:伊万改变了国足氛围奥巴马现身唐宁街 黑色着装引猜测