工作流设计的隐形歧视:AI招聘系统如何在模型之前就筛掉了候选人
工作流设计的隐形歧视:AI招聘系统如何在模型之前就筛掉了候选人 多数公司以为AI招聘的问题出在模型偏见上。他们花大价钱审计算法、调整训练数据、监控输出公平性。但真正的歧视往往发生在模型运行之前——在工作流设计的那一层。 Nina Patel...
工作流设计的隐形歧视:AI招聘系统如何在模型之前就筛掉了候选人 多数公司以为AI招聘的问题出在模型偏见上。他们花大价钱审计算法、调整训练数据、监控输出公平性。但真正的歧视往往发生在模型运行之前——在工作流设计的那一层。 Nina Patel...
随着AI全面介入招聘流程,求职者用AI润色简历,雇主用AI筛选简历,形成了一个闭环。arXiv最新研究揭示了大模型(LLM)存在的“自我偏好”偏见:在控制内容质量的前提下,LLM始终对自己生成的简历情有独钟,对人类简历的偏见率高达67%至8...

ECS / OSS / CDN / 云数据库一站采购,常用云资源集中选配;新用户与续费均有专场优惠,适合个人开发者与小团队长期使用。
日前,马里兰大学、新加坡国立大学和俄亥俄州立大学联合完成的一项研究揭示了AI招聘中的算法偏见。研究人员利用GPT-4o、DeepSeek-V3等主流模型重写真实简历,并让AI担任“招聘官”进行盲评。结果显示,AI招聘官几乎一边倒地选择AI重...
本文深入探讨了当前AI领域关于“无审查”大模型的认知误区。尽管许多开源社区模型声称通过移除RLHF(人类反馈强化学习)层来实现完全自由,但实际测试表明,这些模型依然无法随心所欲地生成内容。文章分析了深层原因:真正的审查并非仅仅存在于表层的安...
英国埃塞克斯郡警方暂停使用实时人脸识别(LFR)技术,因剑桥大学的一项独立研究证实该系统存在严重的种族偏见。研究发现,与白人或其他族裔相比,黑人被系统识别(无论正确与否)的概率显著更高,这引发了对算法公平性的担忧。尽管警方声称已更新软件并计...
近日,有科技社区用户反馈 Google 浏览器 Chrome 集成的 Gemini 助手存在显著的执行差异现象。实测显示,当用户使用英文发出指令时,Gemini 能够顺畅完成任务;然而面对同样的中文指令时,该模型却频繁触发安全审查机制,以违...
本文深入探讨了大型语言模型(LLM)在多语言环境下的安全风险与评估盲区。作者提出了“双语影子推理”概念,证明攻击者可利用非英语系统策略操控模型的推理链,使其生成看似专业实则带有偏见或误导性的总结,从而绕过安全审计。通过开源的“多语言AI安全...
著名安全专家Bruce Schneier深入剖析了AI时代的信任危机。文章指出,人类常混淆基于情感的人际信任与基于制度的社会信任。大型科技公司将利用AI拟人化的特性,诱导用户将其视为朋友而非服务,从而成为企业利益的“双面间谍”。Schnei...