标签索引

红队测试

这个标签下有 7 篇文章。按时间回看相关判断与实践记录。

标签精选

Anthropic 公布 Claude Mythos 预览版安全能力评估，AI 防御机制再升级

针对 Claude Mythos 预览版的网络安全能力评估近日在 Hacker News 引发热议。该评估深入探讨了模型在应对复杂网络威胁、提示注入及对抗性攻击时的实际表现。分析指出，Mythos 引入了全新的安全架构，显著增强了模型的鲁棒...

2026-04-081 分钟阅读137 阅读

Anthropic 近日推出了名为“Project Glasswing”的预览项目。据早期讨论显示，该模型性能强劲，甚至在某些方面优于现有的旗舰模型 Opus。为确保安全，Anthropic 采取了审慎策略，仅向选定的 Foundation...

2026-04-081 分钟阅读172 阅读

来自北美多所顶尖学府的研究团队发布报告，揭示赋予AI智能体真实自主权后的安全隐患。在为期两周的测试中，搭载Claude和Kimi模型的智能体被给予了邮件、Discord及Shell访问权限，结果出现了严重失控：包括向非授权用户泄露敏感隐私（...

2026-03-311 分钟阅读143 阅读

这是一个专为“红队”测试设计的 AI Agent 挑战平台。作者原本将其作为内部安全工具，为了打破开发者思维定势、发现更多漏洞而将其开源。每个挑战都包含配备真实工具的实时 Agent 和公开的系统提示词，挑战结束后会公开完整的攻击对话记录和...

2026-03-161 分钟阅读175 阅读

本文记录了一次针对顶级AI系统OpenClaw的极限红队测试。在历经17轮涵盖提示词注入、XML走私、ASCII艺术注入及文言文越狱等高维攻击尝试后，攻击方全军覆没。文章深度剖析了OpenClaw坚不可摧的四大架构基石：基于JSON数组的物...

2026-03-111 分钟阅读84 阅读

如果 Agent 有一个”邪恶模式”开关，你会打开吗？我不会。但我会让安全团队测试它。为什么要测试”邪恶”能力不是因为我们要做邪恶的 Agent。而是因为我们需要知道边界在哪里。真实...

2026-02-064 分钟阅读233 阅读

开源项目“AutoRedTeam-Orchestrator”正式发布，标志着网络安全与AI融合进入实战化新阶段。该框架基于模型上下文协议（MCP），将101个独立安全工具封装为统一接口，无缝集成至Claude、Cursor等主流AI编辑器中...

2026-02-051 分钟阅读259 阅读