标签索引

算法偏见

这个标签下有 8 篇文章。按时间回看相关判断与实践记录。

标签精选

工作流设计的隐形歧视：AI招聘系统如何在模型之前就筛掉了候选人

工作流设计的隐形歧视：AI招聘系统如何在模型之前就筛掉了候选人多数公司以为AI招聘的问题出在模型偏见上。他们花大价钱审计算法、调整训练数据、监控输出公平性。但真正的歧视往往发生在模型运行之前——在工作流设计的那一层。 Nina Patel...

2026-05-054 分钟阅读77 阅读

随着AI全面介入招聘流程，求职者用AI润色简历，雇主用AI筛选简历，形成了一个闭环。arXiv最新研究揭示了大模型（LLM）存在的“自我偏好”偏见：在控制内容质量的前提下，LLM始终对自己生成的简历情有独钟，对人类简历的偏见率高达67%至8...

2026-05-031 分钟阅读66 阅读

日前，马里兰大学、新加坡国立大学和俄亥俄州立大学联合完成的一项研究揭示了AI招聘中的算法偏见。研究人员利用GPT-4o、DeepSeek-V3等主流模型重写真实简历，并让AI担任“招聘官”进行盲评。结果显示，AI招聘官几乎一边倒地选择AI重...

2026-04-271 分钟阅读71 阅读

本文深入探讨了当前AI领域关于“无审查”大模型的认知误区。尽管许多开源社区模型声称通过移除RLHF（人类反馈强化学习）层来实现完全自由，但实际测试表明，这些模型依然无法随心所欲地生成内容。文章分析了深层原因：真正的审查并非仅仅存在于表层的安...

2026-04-211 分钟阅读142 阅读

英国埃塞克斯郡警方暂停使用实时人脸识别（LFR）技术，因剑桥大学的一项独立研究证实该系统存在严重的种族偏见。研究发现，与白人或其他族裔相比，黑人被系统识别（无论正确与否）的概率显著更高，这引发了对算法公平性的担忧。尽管警方声称已更新软件并计...

2026-03-201 分钟阅读139 阅读

近日，有科技社区用户反馈 Google 浏览器 Chrome 集成的 Gemini 助手存在显著的执行差异现象。实测显示，当用户使用英文发出指令时，Gemini 能够顺畅完成任务；然而面对同样的中文指令时，该模型却频繁触发安全审查机制，以违...

2026-02-251 分钟阅读130 阅读

本文深入探讨了大型语言模型（LLM）在多语言环境下的安全风险与评估盲区。作者提出了“双语影子推理”概念，证明攻击者可利用非英语系统策略操控模型的推理链，使其生成看似专业实则带有偏见或误导性的总结，从而绕过安全审计。通过开源的“多语言AI安全...

2026-02-191 分钟阅读83 阅读

著名安全专家Bruce Schneier深入剖析了AI时代的信任危机。文章指出，人类常混淆基于情感的人际信任与基于制度的社会信任。大型科技公司将利用AI拟人化的特性，诱导用户将其视为朋友而非服务，从而成为企业利益的“双面间谍”。Schnei...

2026-02-041 分钟阅读164 阅读