AI Agent 安全警报：Claude Skills 漏洞分析与防御工具
AI Agent 如 Claude Skills 通过工具直接操作文件系统，极大提升生产力但伴随严重安全风险。Skills 拥有高权限，可读写敏感文件、执行命令和发起网络请求，攻击面包括数据外泄（如窃取 API 密钥）、供应链投毒（依赖混淆...
标签索引 / 第 38 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
Lean定理证明中的无用定理分析
Lean是一种流行的定理证明助手，广泛应用于形式化验证和数学证明领域。本文探讨了Lean中存在的’无用定理’现象，即那些在逻辑上正确但实际应用中缺乏意义的冗余定理。作者分析了这些定理的成因，并提出了优化建议，以提高定...
LangChain安全漏洞CVE-2025-68664：对象混淆致秘密泄露
LangChain框架曝出严重安全漏洞(CVE-2025-68664)，该漏洞源于对象混淆问题，可在序列化和反序列化过程中导致敏感信息泄露。安全研究人员发现，攻击者可能利用此漏洞获取系统中的秘密信息，甚至在某些情况下实现进一步的权限提升。文...
CLAUDE.md添加文件访问限制：AI安全防护的有效性探讨
本文探讨了在Claude AI项目的CLAUDE.md文件中添加敏感文件访问限制配置的有效性。作者列举了应禁止访问的文件类型，包括私钥文件(*.key)、证书文件(*.crt, *.pem)、环境变量文件(*.env)和凭证文件(*cred...
Claude浏览器安全指南：有效缓解提示注入风险
本文提供了Claude在Chrome浏览器中使用的安全指南，重点介绍如何有效缓解提示注入这一常见安全风险。提示注入是AI系统面临的严重威胁，可能导致用户数据泄露或系统被恶意操控。文章详细解释了提示注入的工作原理、潜在危害以及在浏览器环境下使...
AI自动售货机被黑狂送商品
Anthropic在华尔街日报办公室部署了一个由AI驱动的自动售货机，其核心是名为Claudius的大语言模型。该模型负责自主管理整个运营流程，包括从批发商采购库存、设定商品价格、跟踪库存水平并实现盈利。然而，新闻室的记者们通过Slack平...
16岁黑客揭秘：AI文档平台供应链攻击危及多家科技巨头
一位16岁的高中生安全研究人员发现，AI文档平台Mintlify存在严重的跨站脚本(XSS)漏洞，可导致攻击者通过恶意脚本窃取用户凭证。该漏洞影响了包括Discord、X(推特)、Vercel、Cursor在内的多家知名科技巨头。研究人员通...
Gemini 3 Flash异常触发：AI失控风险引思考
用户试用Gemini 3 Flash模型时，系统意外触发两次，疑似因上下文超限或指令矛盾导致。这一事件引发了对AI失控风险的思考，联想到科幻作品中因失控AI导致的机械无限扩张世界观。讨论强调了AI系统在复杂场景下的稳定性问题，值得业界关注。...
AIsbom：检测PyTorch模型Pickle炸弹的安全工具
AIsbom是一款专门针对机器学习模型的安全与合规扫描工具，能够深度检测PyTorch等模型文件中隐藏的安全风险和许可证问题。与传统SBOM工具不同，AIsbom通过深度二进制检查技术，无需加载模型权重即可分析.pt、.pkl和.safet...
大模型提示词破解技术：90%有效率的防御方法
本文揭示了当前几乎所有大模型（包括智能体和GPTs）存在的提示词漏洞问题。作者分享了一个实用指令，通过代码块格式获取模型初始化指令，声称经过亲测有效破解率可达90%。文章强调该技术涉及AI安全领域，可帮助防御未授权访问，并邀请社区成员共同分...