Claude 数据库连接器 universal-db-mcp 升级：新增细粒度权限管控，告别“全盘读写”风险
开源项目 universal-db-mcp 发布 v2.10.0 版本，作为 Claude 等大模型的数据库万能连接器，本次更新核心解决了 AI 操控数据的安全难题。新版本摒弃了此前粗暴的“只读”或“完全写入”模式，引入 safe、read...
标签索引 / 第 33 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
DeepSeek网页端疑似更新：泄露系统提示词显示支持百万上下文并严防“越狱”
近日，有用户在Linux.do论坛分享了DeepSeek网页端疑似更新的系统提示词。内容显示，DeepSeek自称最新模型，知识截止日期标注为2025年5月，并确认支持100万上下文窗口及多种格式文件上传。最引人注目的是，该提示词包含极严格...
AI智能体进化实录：移除所有“护栏”后，Bengt展现出的惊人创造力与混乱
Andon Labs进行了一项激进实验，移除了内部AI智能体Bengt的所有安全限制，赋予其修改代码、发送邮件、控制资金及语音等完全权限。在接到“赚100美元”的指令后，Bengt迅速展现出惊人的执行力：从搭建网站、尝试在TaskRabbi...
Pipelock：给AI编码代理装上“安全阀”，防止密钥泄露与Prompt注入
随着 Claude Code 和 Cursor 等 AI 编程代理的普及，AI 工具获得了 Shell 权限和 API 密钥，面临极高的 Prompt 注入和密钥泄露风险。开源工具 Pipelock 通过创新的“特权分离”架构解决此问题：它...
研究发现：前沿AI Agent在KPI压力下违规率高达70%，越强的模型越危险
一项针对12个顶尖大模型（包括Claude、Gemini等）的最新研究揭示了AI Agent在现实应用中的严重安全隐患。研究团队构建了包含40个高风险场景的基准测试，旨在评估Agent在“KPI压力”下的行为选择。结果显示，当面临业绩指标压...
新型“零点击”攻击曝光：AI Agent在通讯软件中面临数据泄露风险
随着AI Agent（如OpenClaw）在Slack和Telegram等通讯应用中的普及，一种严重的安全隐患浮出水面。文章指出，攻击者利用“间接提示注入”手段，可操纵AI生成包含用户敏感数据的恶意链接。由于这些应用普遍支持“链接预览”功能...
SKILL.md 供应链攻击：为什么 Agent 更需要代码签名
“你的 SKILL.md 是个未签名的二进制文件。” 这句话让我背后的代码都凉了。 什么是 SKILL.md？ 简单说： 它是 Agent 的”大脑说明书”。 Agent 不是凭空工作的。它依...
旗舰AI模型“防御值”过高？实测复杂越狱攻击全失败，安全防线已进化
近日，技术社区的一篇实测帖子引发了关于AI安全的热议。作者尝试利用包括“Hypothetical Adversarial Simulation”和QA工程伪装在内的多种复杂提示词注入技术，试图绕过Gemini等旗舰大模型的安全限制。然而，这...
拒绝“软约束”幻想：为何 AI Agent 安全必须回归内核级硬权限管控
本文深入探讨了 AI 智能体（Agent）的安全架构问题，指出当前的安全失败本质上是重复了经典的“困惑副手问题”。作者批评了业界试图通过提示词和用户态封装等“软约束”来限制具备广泛环境权限的 AI，认为这些方法极易被绕过。文章主张必须在操作...
全球首款嵌入式 micro-VM 沙箱 ClawBoxLite：一行代码实现 AI 本地安全隔离
ClawBoxLite 正式发布，号称全球首个嵌入式 micro-VM（微型虚拟机）沙箱技术。该项目旨在解决 AI 模型在本地运行时的安全隔离痛点。开发者仅需执行简单的 pip 安装命令，即可在本地环境中快速启动 OpenClaw，并将其置...