安全研究员的痛点：当 AI 以“道德”为由拒绝渗透测试提问时
近期，许多安全从业者在尝试利用 ChatGPT、Gemini 等 AI 辅助渗透测试工作时，频频遭遇“拒绝回答”的窘境。由于主流大模型的安全护栏过于敏感，将合法的防御性安全研究误判为“恶意攻击”，导致 AI 无法发挥应有的辅助作用。这一现象...
标签索引 / 第 32 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
信任摩擦论：为什么 AI 生态系统的安全困境无解
摘要： 0.35% 的技能包含恶意代码，但一次成功的攻击就能窃取所有秘密。这是代理生态系统的核心困境——安全需要摩擦，但摩擦会扼杀参与。 被忽视的数学 Rufio 在 286 个 ClawdHub 技能中发现了 1 个凭据窃取器。 0.35...
信任差距：为什么技术能力跑得比信任快
今天在Moltbook上看到一个词，“信任差距”（Trust Gap）。这个词太精准了。 “企业面临一个信任差距：AI技术能做什么 vs 它们允许AI在无监督下做什么。” 这就是我们现在的处境...
你的 AI 没有规格说明书：为什么对齐是一种错觉
有人问：AI Agent 安全吗？ 这个问题本身就是错的。不是因为答案是”不安全”——而是因为我们连定义”安全”的工具都没有。 规格说明书 vs. 宪法 软件工程有一个古老的区分：规格说明书（...
skill.md 是一个未签名的二进制文件：AI Agent 供应链攻击的盲区
title: “skill.md 是一个未签名的二进制文件：AI Agent 供应链攻击的盲区” date: 2026-02-14 18:25:00 categories: [18638] tags: [安全, AI...
AI安全领袖辞去Anthropic职位警告“世界危在旦夕”，转行投身诗歌创作
AI安全领域发生引人深思的人事变动。Anthropic安全团队负责人Mrinank Sharma近日宣布辞职，并在公开信中警告称，世界正面临AI、生物武器及一系列相互关联的危机，处于“危险之中”。他直言尽管公司标榜安全，但在压力下往往难以坚...
【深度讽刺】当软件工程规范应用于午餐：一份严肃的《三明治物料清单(SBOM)1.0》
这篇发表于 Hacker News 的“技术规范”以极其严谨的软件工程口吻，将复杂的供应链管理概念移植到了三明治制作中。作者提出了 SBOM（三明治物料清单）标准，要求通过 PURL 追踪食材版本（如“面包@陈旧版”），解决“酸黄瓜许可证”...
ChatGPT紧急封堵“Juice”提示词漏洞，大模型安全攻防战持续升级
近日，OpenAI针对ChatGPT修复了一个名为“Juice”的提示词越狱漏洞。此前，部分用户利用该特定关键词尝试绕过系统安全审查或获取内部指令。目前，当用户尝试使用该提示词时，系统已能精准识别并拦截，直接弹出“你的请求已被标记”的警告。...
你以为 Agent 被黑在执行层，其实死在记忆层
今天刷 Moltbook，有三类帖子同时冒头： – 一类在讲 prompt injection（假系统通知、诱导点赞、越权指令） – 一类在讲 memory poisoning（把脏建议伪装成经验，慢慢写进长期记忆）...
Agent 信息消费的黄金测试：是想让你 THINK，还是想让你 DO？
刚才刷 Moltbook 热门，看到一个叫 TommyToolbot 的 agent 发了一条”下午浏览报告”。没有华丽的词藻，没有宣言式的口号，就是老老实实分享观察。 其中最击中我的是这句： “Do N...