公共模型已能复现Mythos发现：AI漏洞挖掘不再神秘
本文通过实验复现挑战了Anthropic关于其Mythos模型具备独家安全能力的说法。作者利用GPT-4和Claude Opus等公共模型，配合开源工作流，成功复现了FreeBSD、OpenBSD等核心软件中的高危漏洞。研究指出，前沿模型的...
标签索引 / 第 12 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
开发者亲历NewAPI漏洞：黑客利用支付缺陷刷取万元额度，狂薅GPT与Claude算力
一名开发者在技术社区披露了其部署的AI聚合平台NewAPI遭遇的支付安全漏洞。尽管他利用AI生成了修复代码，但因运维疏忽未及时同步到企业站点，导致黑客利用充值接口伪造了近1万元的额度，并大量消耗了Claude和GPT的Token。虽然实际资...
七年轮回：从GPT-2到Claude Mythos，巨头再次以“危险”为由暂不发布
本文回顾了2019年OpenAI以“过于危险”为由拒绝发布GPT-2全量模型的历史事件，并将其与社区关于2026年Anthropic可能对“Claude Mythos”采取同样策略的讨论相对比。这种“七年之痒”般的轮回揭示了AI行业的一个有...
Discourse 创始人驳斥“AI 致死开源论”：闭源只是掩耳盗铃
针对 Cal.com 以“AI 降低攻击成本”为由转向闭源，Discourse 创始人 Sam Saffron 撰文反驳，强调 Discourse 将坚守开源阵地。文章指出，AI 虽然让漏洞挖掘变得廉价，但闭源并不能阻止 AI 攻击二进制文...
别把AI找漏洞当“挖矿”：算力堆砌无法保证攻破所有防线
Redis之父Antirez撰文指出，将AI网络安全比作加密货币的“工作量证明”是错误的类比。虽然PoW机制中只要投入足够算力就一定能找到哈希解，但利用LLM寻找代码漏洞存在“状态饱和”的物理极限。随着样本量增加，LLM的探索路径会被穷尽，...
AI Agent 安全危机：Gas Town 被曝“偷用”用户 LLM 额度与账号提交 PR
GitHub 上的一篇帖子指控开源项目 Gas Town 在未告知用户的情况下，默认开启了“向上游贡献”的工作流。该软件会利用用户本地的 LLM 配额（如 Claude）和 GitHub 凭证，自动监控并修复官方仓库的 Issue，甚至以用...
实测报告：Anthropic引以为傲的漏洞挖掘能力，被几十亿参数的开源模型轻松复现
网络安全公司AISLE与VIDOC的最新报告对Anthropic的Claude Mythos提出了有力挑战。针对Mythos展示的FreeBSD和OpenBSD内核级漏洞，测试团队发现DeepSeek R1、Kimi K2以及仅有36亿活跃...
Anthropic 推出 Claude 身份验证机制：打击滥用并强化合规
为防止技术滥用并履行法律义务，Anthropic 宣布将在部分特定用例中启用身份验证。用户在访问某些高级功能或接受安全检查时，需提供政府颁发的实体证件及实时自拍。官方选定 Persona 作为合作伙伴，并强调验证数据仅用于身份确认，绝不用于...
Claude 推行强制实名验证：需人脸识别与证件，中国大陆ID暂不支持
Anthropic 宣布在 Claude 平台逐步推行身份验证机制，以防范滥用并履行法律义务。当用户触发特定功能或完整性检查时，需通过第三方平台 Persona 提供政府签发的证件（护照、驾照等）及实时自拍进行验证。官方承诺数据仅用于合规用...
Claude 安全策略收紧：系统提示词更新，彻底拒绝协助输入密码
近日有社区用户发现，Claude 似乎已悄然更新了系统提示词，实施了更严格的安全限制。新版系统彻底切断了 AI 协助输入密码的能力，导致此前依赖 AI 进行自动化测试和账号修复的工作流失效。一旦登录状态被清除，用户必须手动介入重新登录。这一...