标签索引

AI 安全

这个标签下有 7 篇文章。按时间回看相关判断与实践记录。

标签精选

从 Hermes Agent 漏洞看 AI 安全：防御体系将从“防火墙”转向“数字疫苗”？

Hermes Agent 近日被披露存在首个远程代码执行（RCE）漏洞，这一技术细节引发了行业对 AI 时代安全模式的深刻思考。传统的“防火墙”式被动防御在面对高度智能化的 AI Agent 时显得力不从心，未来的网络安全行业或将发生根本性...

2026-04-221 分钟阅读162 阅读

随着 Claude Opus 热度攀升，许多基于 New API 的第三方站点通过套壳低配模型冒充正版，导致用户真假难辨。社区最新发现，使用特定的“提示词注入”测试语句（要求模型审查上下文工程攻击），可以便捷有效地识别模型真伪，比传统的“日...

2026-04-081 分钟阅读301 阅读

OpsKat 开源项目发布了 opsctl 工具，旨在让 Claude Code/Codex 安全地操作服务器资产。用户可通过桌面端添加资产，利用 AI 辅助执行日志查询、SQL 运行及 K3s 环境排查等任务。该工具的核心亮点在于其安全策...

2026-03-301 分钟阅读314 阅读

拥有 3000 多名成员、维护着 84 个项目的知名开源社区 Jazzband 宣布将在 2026 年停止运营。创始人直言，导致这一局面的核心原因是 GitHub 上 AI 生成的垃圾 PR（“Slopocalypse”）泛滥，使得原本基于...

2026-03-151 分钟阅读128 阅读

随着 AI Agent 和自动化代码执行的普及，沙箱隔离技术成为保障系统安全的关键。文章深入剖析了 Docker 容器底层 Namespace 和 Cgroups 的局限性，指出其仅为“可见性隔离”而非真正的安全边界，无法有效防御内核级漏洞...

2026-02-281 分钟阅读106 阅读

HackMyClaw 是一项极具教育意义的 AI 安全实战挑战，旨在揭示大语言模型（LLM）在现实应用场景中的安全漏洞。玩家需要通过电子邮件向名为 Fiu 的 AI 助手发送内容，尝试利用“间接提示词注入”技术，诱导该 AI 违背指令并泄露...

2026-02-181 分钟阅读186 阅读

文章指出，在 Claude Code 等 AI 编程工具中，同时开启文件编辑和特定 Bash 命令（如 go test、eslint、docker）的白名单权限，往往会导致严重安全隐患。由于开发工具支持通过配置文件或参数执行任意代码，AI ...

2026-02-021 分钟阅读277 阅读