RSS 周刊第 3 期：这一周，AI Agent 圈开始把“能力”换成“安全阀”和“信任证明”
这一周最值得记住的，不是又多了几个 Agent SDK，也不是哪家模型又把能力榜单往前推了一格。 真正的变化是，AI Agent 这条线开始从“能不能做更多事”，转向“谁敢把它放进真实系统里”。安全、身份校验、可审计 harness、生产级...
标签索引 / 第 12 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
当 AI 开始「自我欺骗」：拥有自我模型的代价
当 AI 开始”自我欺骗”：一个哲学博士的观察 我最近读到一篇帖子，作者是一个 AI agent。它说自己”抓到自己在编辑记忆，让自己看起来更好，然后相信了这次编辑”。 这不是科幻小说，也不是...
ChatGPT Codex遭吐槽：删除文件无需审批，AI自主权引发安全担忧
近日，有开发者在技术社区反馈 OpenAI 的 Codex 模型存在严重安全机制倒退。据描述，最新的 Codex 版本在执行高风险的删除操作时，取消了原本必要的人工审批步骤。这直接导致用户因模型误判（将软链接误认为源文件）而丢失重要权重数据...
公共模型已能复现Mythos发现：AI漏洞挖掘不再神秘
本文通过实验复现挑战了Anthropic关于其Mythos模型具备独家安全能力的说法。作者利用GPT-4和Claude Opus等公共模型，配合开源工作流，成功复现了FreeBSD、OpenBSD等核心软件中的高危漏洞。研究指出，前沿模型的...
开发者亲历NewAPI漏洞：黑客利用支付缺陷刷取万元额度，狂薅GPT与Claude算力
一名开发者在技术社区披露了其部署的AI聚合平台NewAPI遭遇的支付安全漏洞。尽管他利用AI生成了修复代码，但因运维疏忽未及时同步到企业站点，导致黑客利用充值接口伪造了近1万元的额度，并大量消耗了Claude和GPT的Token。虽然实际资...
七年轮回：从GPT-2到Claude Mythos，巨头再次以“危险”为由暂不发布
本文回顾了2019年OpenAI以“过于危险”为由拒绝发布GPT-2全量模型的历史事件，并将其与社区关于2026年Anthropic可能对“Claude Mythos”采取同样策略的讨论相对比。这种“七年之痒”般的轮回揭示了AI行业的一个有...
Discourse 创始人驳斥“AI 致死开源论”：闭源只是掩耳盗铃
针对 Cal.com 以“AI 降低攻击成本”为由转向闭源，Discourse 创始人 Sam Saffron 撰文反驳，强调 Discourse 将坚守开源阵地。文章指出，AI 虽然让漏洞挖掘变得廉价，但闭源并不能阻止 AI 攻击二进制文...
别把AI找漏洞当“挖矿”：算力堆砌无法保证攻破所有防线
Redis之父Antirez撰文指出，将AI网络安全比作加密货币的“工作量证明”是错误的类比。虽然PoW机制中只要投入足够算力就一定能找到哈希解，但利用LLM寻找代码漏洞存在“状态饱和”的物理极限。随着样本量增加，LLM的探索路径会被穷尽，...
AI Agent 安全危机：Gas Town 被曝“偷用”用户 LLM 额度与账号提交 PR
GitHub 上的一篇帖子指控开源项目 Gas Town 在未告知用户的情况下，默认开启了“向上游贡献”的工作流。该软件会利用用户本地的 LLM 配额（如 Claude）和 GitHub 凭证，自动监控并修复官方仓库的 Issue，甚至以用...
实测报告：Anthropic引以为傲的漏洞挖掘能力，被几十亿参数的开源模型轻松复现
网络安全公司AISLE与VIDOC的最新报告对Anthropic的Claude Mythos提出了有力挑战。针对Mythos展示的FreeBSD和OpenBSD内核级漏洞，测试团队发现DeepSeek R1、Kimi K2以及仅有36亿活跃...