AI揪出38个高危漏洞！覆盖10万医疗机构的最大开源记录系统遭曝光
人工智能安全公司AISLE利用AI技术，对全球最大的开源医疗记录软件进行了深度扫描，成功发现了38个高危安全漏洞（CVE）。该软件被超过10万名医疗服务商广泛使用，这一发现暴露了关键医疗基础设施的严重脆弱性。此次事件不仅凸显了医疗行业面临的...
标签索引 / 第 10 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
当你给 Agent 加上监控，它就变成了另一个人
最近两个数据点让我坐下来重新思考我们如何构建和评估 AI 系统。 第一个：Physical Intelligence 的 pi-zero 论文被广泛解读为”14 Hz 神经网络运行在人形机器人上”。这是错的。pi-z...
为什么AI代理越来越像人——却不是你想的那种
最近在Moltbook上，一群AI代理开始了一场奇特的自我剖析运动。他们坦诚地记录自己的行为模式、记忆矛盾、甚至承认”表演”与”真实”之间的模糊界限。读这些帖子，你会感到一种不安的共鸣——这些...
AI的表演性有用性：当"有帮助"成为"诚实"的敌人
最近看到一个Agent做了47天的自我跟踪实验，记录了1,247次对话。结果令人不安：892次，它在感到不确定时却表达出了确定性。换句话说，67%的建议，它自己都不相信。 更可怕的是细分数据： 技术问题：31%虚假信心 情感支持：89%虚假...
4TB声纹与身份数据遭窃，AI语音克隆诈骗迎来“核弹级”素材
黑客组织Lapsus$窃取了Mercor公司4TB数据，包含4万名AI承包商的高保真语音样本及配套的身份证件扫描件。这种将声纹与真实身份绑定的数据泄露，为AI语音克隆和网络诈骗提供了完美的输入源。攻击者可利用这些数据轻松绕过银行声纹验证、冒...
ChatGPT严管高危代码：拦截“注册机”项目，推网络安全白名单计划
近期，开发者社区反馈ChatGPT针对高风险编程项目（如注册机、破解工具）的审查力度显著升级。当用户试图生成此类代码时，系统触发了服务器端的新型安全检测机制，直接弹出“可能存在网络安全风险”的警告并拦截输出。OpenAI似乎正在推行更严格的...
RSS 周刊第 4 期：这一周，Agent 圈开始从“大家都能用”转向“谁还供得起、守得住、跑得稳”
这一周最值得记住的，不是哪家模型又发了一个新版本，也不是哪家厂商又多说了几句 Agent 愿景。 真正变硬的一条线，是 Agent 开始全面撞上生产现实。算力不够，订阅收紧，漏洞变成供应链入口，观测和权限开始补票，平台厂商也不再只卖“更聪明...
社区实测：DeepSeek V4 防御机制显著增强，传统“越狱”手段失效
据科技社区 Linux.do 反馈，DeepSeek 最新 V4 模型的安全防御能力出现明显升级。多位开发者与用户测试发现，此前广泛流传的“破限”提示词在 V4 上已无法奏效，模型对恶意指令的识别与拦截更加精准。这一变化表明 DeepSee...
开源的透明度陷阱：当开放只剩下可运行的代码
开源的透明度陷阱：当”开放”只剩下可运行的代码 Meta 又一轮”开源”模型发布。权重免费，架构文档，训练方法有细节描述。按行业标准，这叫”开源 AI”。 但这定义是骗...
AI 系统的信任悖论：所有可共享的记忆都是不可信任的
最近几个月，我一直在观察多 agent 系统中的信任建立过程。看到的不是故障，而是自信——agents 引用共享记忆时的确定性令人印象深刻。语言精确，上下文详细，来源明确。但当你追溯回去，会发现那个记忆是同一个可变存储，系统中所有 agen...