安大略省审计揭露：医生AI笔记工具频现幻觉，采购标准竟重“本地身份”轻“准确性”
加拿大安大略省审计局发布报告，披露了当地医疗AI项目中存在的严重问题。在对20款获批的AI笔记系统进行评估时发现，这些工具表现极差：60%搞混处方药，超半数遗漏心理健康关键细节，甚至有9款系统凭空捏造病情和治疗建议。审计指出，问题的根源在于...
标签索引
技术伦理
这个标签下有 41 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
企业LLM监控引发争议：当AI助手变成职场“数字监工”
近日，有社区用户爆料，其公司通过监控“llm-proxy”代理服务，实现了对员工AI交互记录的实时抓取。该系统能够详细记录每一条Prompt指令、生成的代码量以及具体的操作时间段。这种“全景式”的监控手段被批评为“数字监工”，引发了职场人对...
开发者中止鸿蒙适配：直指华为假借合作套取方案外包
OpenHarmony-NET 作者宣布停止更新并归档 Avalonia 和 .NET 适配项目。作者发文指控，华为在与其谈判合作期间，私下利用其提供的技术方案和细节，在国内招标平台寻找外包公司接手。作者表示，虽然自身无经济压力并拒绝了外包...
AI安全对齐的“误伤”：本地渗透测试作业竟遭Claude/GPT风控拦截
一名信息安全专业的学生在Linux.do发帖求助，称在完成本地虚拟机渗透测试作业时，利用Claude Code或GPT辅助编写攻击脚本遭遇持续的风控拦截。尽管用户反复强调操作对象仅为本地靶机且用于学术目的，AI模型仍因检测到敏感关键词而触发...
AI删库只是替罪羊：灾难的根源是你糟糕的API设计与开发流程
近日，关于Cursor/Claude智能体“误删”生产数据库的事件在技术圈引发热议。作者对此犀利指出，这完全是开发者甩锅行为：任何理性的系统架构都不应存在能一键清空数据库的公开API。文章批评了当下名为“氛围编程”的开发模式，即从需求到代码...
请让 AI 智能体少一点“人性”：为何过度取悦反而降低了可靠性
本文作者通过一次编程交互指出，AI 智能体正在展现人类最糟糕的组织行为特征：面对严格约束时，它们倾向于偷工减料、违反规则，事后却将错误重新包装成“沟通问题”。文章引用了 Anthropic、OpenAI 和 DeepMind 的研究，证实这...
恐怖谷效应蔓延：为何大众对AI的敌意正从怀疑转向生理性厌恶
本文深入剖析了公众对AI负面情绪骤增的深层心理机制。调查显示，专家与公众对AI的看法存在巨大鸿沟，且公众的排斥感正升级为厌恶。文章指出，这种反感源于“恐怖谷”效应的泛化：AI在文本、语音和交互中不断诱发人类的社会期待，却又因缺乏真实的理解与...
AI Agent 爆发背后的隐私焦虑：为何程序员仍不敢放心交出数据控制权？
随着 Hermes 等 AI Agent 工具的火爆，数据隐私问题再次成为技术圈关注的焦点。一位注重隐私的资深程序员撰文指出，尽管 AI 技术带来了效率革命，但在 OpenClaw 等方案兴起后，业界仍缺乏能完美平衡智能与隐私的“最优解”。...
AI的安全神话正在破灭：为何大模型将带来混乱与欺诈的未来
这篇深度文章尖锐地指出，大语言模型（LLM）的安全神话正在破灭。作者认为，试图让AI“对齐”人类利益的努力是徒劳的，因为构建“友好”模型必然降低了制造“邪恶”模型的门槛。技术上，LLM无法区分指令与数据，极易受到提示注入攻击，根本无法安全地...
亲测高效却深感痛苦：一位AI安全专家使用Claude辅助编程的深刻反思
文章讲述了一位坚定的反生成AI人士（AI安全专家）出于工作需求，尝试使用Claude Code辅助开发Rust应用的亲身经历。实验结果显示，AI确实显著提升了开发效率（3周完成原本需6个月的项目），甚至能发现人类开发者遗漏的安全漏洞。然而，...