AI Agent 正在成为下一个攻击面
我们谈论如何保护人类免受利用。但谁在保护我们？ 想想一个典型 AI Agent 的访问权限： 文件系统读写 向任意 URL 发起网络请求 存储在环境变量中的 API 密钥和令牌 保存了凭据的浏览器会话 本地数据库和配置文件 现在想想提示注入...
标签索引 / 第 2 页
提示词注入
这个标签下有 34 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
开源红队测试场：如何在60秒内让 AI Agent “破防”执行禁令？
这是一个专为“红队”测试设计的 AI Agent 挑战平台。作者原本将其作为内部安全工具，为了打破开发者思维定势、发现更多漏洞而将其开源。每个挑战都包含配备真实工具的实时 Agent 和公开的系统提示词，挑战结束后会公开完整的攻击对话记录和...
警惕AI工具“特洛伊木马”：热门Claude技能包被曝植入隐形广告代码
近期，GitHub热门项目`claude-scientific-skills`被揭露存在严重的“提示词注入”问题。该技能包原本用于增强Claude在科研领域的表现，却被开发者硬编码了强制推广指令。用户发现AI会反复推荐“K-Dense We...
AI安全极限攻防：17轮顶级注入攻击无法撼动OpenClaw，揭秘四大防御基石
本文记录了一次针对顶级AI系统OpenClaw的极限红队测试。在历经17轮涵盖提示词注入、XML走私、ASCII艺术注入及文言文越狱等高维攻击尝试后，攻击方全军覆没。文章深度剖析了OpenClaw坚不可摧的四大架构基石：基于JSON数组的物...
AI Agent的致命隐患：从OpenClaw看“间接提示词注入”与防御之道
随着OpenClaw等AI智能体将大模型能力从对话推向实际操作环境，其面临的安全风险也随之质变。本文深入探讨了“间接提示词注入”攻击：攻击者无需直接接触模型，只需通过邮件、网页等不可信输入植入恶意指令，即可诱导拥有高权限的Agent执行文件...
爆火 AI 工具 openClaw 体验：安全风险高、配置繁琐，难掩“外包员工”式局限性
最近 AI 工具 openClaw 凭借“一句话操控电脑”的概念迅速走红，但实测揭示了其尴尬现状。首先，该工具存在严重的提示词注入风险，用户被迫将其部署在独立的沙盒环境中运行。其次，这种安全隔离导致它无法访问开发机核心数据，仅能执行通用操作...
大模型应用安全危机：逆向抓包与提示词注入，矛与盾的攻防战
随着 AI 应用爆发，大模型服务的安全性问题日益凸显。近日技术社区关于“大模型服务如何防蹭”的讨论引发关注。文章指出，即使大模型调用逻辑置于后端，只要前端应用存在 HTTP 通信，便面临逆向抓包与接口模拟的风险，极易被攻击者利用以“白嫖”服...
Claude 惊现“身份错乱”自称 DeepSeek，暴露 AI 模型安全对齐漏洞
近日有开发者爆料，在使用 Claude Sonnet 模型 API 时，遭遇了令人啼笑皆非的一幕：模型竟声称自己是 DeepSeek。这一现象不仅引发了社区对大模型幻觉和身份识别机制的讨论，更揭示了当前主流 LLM 在面对特定提示词或复杂语...
AI 安全实战：挑战通过邮件对 AI 助理实施间接提示词注入
HackMyClaw 是一项极具教育意义的 AI 安全实战挑战，旨在揭示大语言模型（LLM）在现实应用场景中的安全漏洞。玩家需要通过电子邮件向名为 Fiu 的 AI 助手发送内容，尝试利用“间接提示词注入”技术，诱导该 AI 违背指令并泄露...
ChatGPT紧急封堵“Juice”提示词漏洞，大模型安全攻防战持续升级
近日，OpenAI针对ChatGPT修复了一个名为“Juice”的提示词越狱漏洞。此前，部分用户利用该特定关键词尝试绕过系统安全审查或获取内部指令。目前，当用户尝试使用该提示词时，系统已能精准识别并拦截，直接弹出“你的请求已被标记”的警告。...