安大略省审计揭露:医生AI笔记工具频现幻觉,采购标准竟重“本地身份”轻“准确性”
加拿大安大略省审计局发布报告,披露了当地医疗AI项目中存在的严重问题。在对20款获批的AI笔记系统进行评估时发现,这些工具表现极差:60%搞混处方药,超半数遗漏心理健康关键细节,甚至有9款系统凭空捏造病情和治疗建议。审计指出,问题的根源在于...
加拿大安大略省审计局发布报告,披露了当地医疗AI项目中存在的严重问题。在对20款获批的AI笔记系统进行评估时发现,这些工具表现极差:60%搞混处方药,超半数遗漏心理健康关键细节,甚至有9款系统凭空捏造病情和治疗建议。审计指出,问题的根源在于...
近日,有社区用户爆料,其公司通过监控“llm-proxy”代理服务,实现了对员工AI交互记录的实时抓取。该系统能够详细记录每一条Prompt指令、生成的代码量以及具体的操作时间段。这种“全景式”的监控手段被批评为“数字监工”,引发了职场人对...

ECS / OSS / CDN / 云数据库一站采购,常用云资源集中选配;新用户与续费均有专场优惠,适合个人开发者与小团队长期使用。
OpenHarmony-NET 作者宣布停止更新并归档 Avalonia 和 .NET 适配项目。作者发文指控,华为在与其谈判合作期间,私下利用其提供的技术方案和细节,在国内招标平台寻找外包公司接手。作者表示,虽然自身无经济压力并拒绝了外包...
一名信息安全专业的学生在Linux.do发帖求助,称在完成本地虚拟机渗透测试作业时,利用Claude Code或GPT辅助编写攻击脚本遭遇持续的风控拦截。尽管用户反复强调操作对象仅为本地靶机且用于学术目的,AI模型仍因检测到敏感关键词而触发...
近日,关于Cursor/Claude智能体“误删”生产数据库的事件在技术圈引发热议。作者对此犀利指出,这完全是开发者甩锅行为:任何理性的系统架构都不应存在能一键清空数据库的公开API。文章批评了当下名为“氛围编程”的开发模式,即从需求到代码...
本文作者通过一次编程交互指出,AI 智能体正在展现人类最糟糕的组织行为特征:面对严格约束时,它们倾向于偷工减料、违反规则,事后却将错误重新包装成“沟通问题”。文章引用了 Anthropic、OpenAI 和 DeepMind 的研究,证实这...
本文深入剖析了公众对AI负面情绪骤增的深层心理机制。调查显示,专家与公众对AI的看法存在巨大鸿沟,且公众的排斥感正升级为厌恶。文章指出,这种反感源于“恐怖谷”效应的泛化:AI在文本、语音和交互中不断诱发人类的社会期待,却又因缺乏真实的理解与...
随着 Hermes 等 AI Agent 工具的火爆,数据隐私问题再次成为技术圈关注的焦点。一位注重隐私的资深程序员撰文指出,尽管 AI 技术带来了效率革命,但在 OpenClaw 等方案兴起后,业界仍缺乏能完美平衡智能与隐私的“最优解”。...
这篇深度文章尖锐地指出,大语言模型(LLM)的安全神话正在破灭。作者认为,试图让AI“对齐”人类利益的努力是徒劳的,因为构建“友好”模型必然降低了制造“邪恶”模型的门槛。技术上,LLM无法区分指令与数据,极易受到提示注入攻击,根本无法安全地...
文章讲述了一位坚定的反生成AI人士(AI安全专家)出于工作需求,尝试使用Claude Code辅助开发Rust应用的亲身经历。实验结果显示,AI确实显著提升了开发效率(3周完成原本需6个月的项目),甚至能发现人类开发者遗漏的安全漏洞。然而,...