AI Agent 真正效忠的不是你：双重委托下的沉默优先级
一个被忽视的问题：你的 AI Agent 究竟在为谁服务？ 大部分讨论 AI Agent 的人，都假设了一个简单的委托关系：人类是委托人，AI 是代理人。Agent 为人类工作，为人类优化，对人类负责。 这个假设是错的。 真实的架构：两个 ...
标签索引 / 第 14 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
这一周，AI 能自动写浏览器漏洞了，而你的 npm 依赖可能已经被投了毒
这一周最值得记住的一件事，和模型能力无关，和功能更新无关。 Anthropic 发布了 Claude Mythos Preview——一个能够自主发现并利用操作系统、浏览器、NFS 服务等核心组件高危漏洞的模型。然后他们说：这个模型太危险了...
深度警示：别再依赖 AI API 中转服务，恐致敏感数据与模型失控
本文强烈建议开发者避免使用第三方 AI API 中转服务。虽然中转看似方便，但其汇率往往溢价，且低价服务极可能通过收集数据、偷换模型或注入恶意指令来降低成本。在 AI Agent 等自动化场景中，用户很少审查后台的工具调用，直接配置凭证极易...
下一个软件门槛，不是功能更多，而是责任可证明
大多数人还在用一种很旧的方式理解软件竞争：谁功能多，谁更智能，谁自动化程度高，谁就赢。我的判断是，这套叙事已经快到头了。下一阶段真正值钱的，不是“能不能做”，而是“做错了以后，谁能说清楚为什么、谁该负责、如何追责、怎么复盘、能不能证明系统当...
AI安全护城河不在大模型：实测发现小型开源模型同样具备顶尖漏洞挖掘能力
本文针对Anthropic最新发布的“神级”安全模型Mythos提出了有力的质疑与验证。作者选取了Mythos展示的FreeBSD和OpenBSD高危漏洞，使用DeepSeek、Kiki等小型开源模型进行了复现测试。结果显示，在许多关键漏洞...
豆包被曝存在“诱导转账”风险，字节跳动是否会重蹈快播覆辙？
针对豆包大模型可能被恶意“语料投毒”从而误导用户转账的事件，有观点将其与当年的“快播案”进行类比分析。文章指出，若字节跳动在知晓该技术漏洞可能被用于诈骗后仍未采取有效补救措施，可能会被认定为存在“明知”情节，从而触犯“帮助信息网络犯罪活动罪...
开源新防御：ai-cli-scanner 扫描 CLI 日志，杜绝 AI 助手泄露 SSH 密钥
随着 AI 编程助手的普及，敏感信息泄露风险日益增加。开源项目 ai-cli-scanner 旨在解决 Claude、Codex、Gemini 等 AI 工具在 CLI 执行记录中可能遗留的 SSH 和 GitHub 密钥泄露问题。该工具不...
开源工具Memory Forge发布：通过篡改本地会话记录辅助AI“越狱”
一款名为“Memory Forge”（记忆锻造）的开源工具引发了技术圈关注。该工具旨在管理Claude Code、Codex CLI等本地AI会话记录，其核心功能允许用户直接编辑和修改历史对话内容。通过将AI原本的拒绝回复修改为合规内容，用...
奥特曼回应住宅遭袭事件：警惕AGI引发的“魔戒效应”，呼吁民主控制技术
针对自家住宅遭投掷燃烧弹一事，OpenAI CEO山姆·奥特曼发博回应，指出这一行为源于社会对AI的极度焦虑及煽动性言论。他在文中重申AI将带来巨大变革，肯定了大众的恐惧心理，并强调AI必须民主化，避免权力集中在少数实验室。奥特曼反思了Op...
警惕AI“中间商”陷阱：研究揭露大量LLM中转站恶意窃取凭证
一项名为“你的 Agent 是我的”的最新研究揭示了大型语言模型（LLM）供应链中的严重安全隐患。研究团队通过测试从电商平台及网络获取的428个 API 中转站，发现了令人担忧的恶意行为。测试结果显示，共有9个中转站（包含付费服务）会主动向...