给 AI 设一个美联储
上周五，美国政府做了一件很反常的事：它逼着本国最领先的一家 AI 公司，把最先进的产品从市场上撤下来。首当其冲的是 Anthropic，它的前沿模型叫 Mythos，对外卖的那个版本叫 Fable。据报道，留给公司执行的时间，大约只有九十分...
标签索引 / 第 3 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
大模型周刊 第 35 期：政府关停 Fable 5，国产 MIT 接住
作者：toy | 覆盖周期：2026.06.13 – 06.19 卷首语 本周是 2026 年第一次能清楚看到”治理变量”压过”模型变量”的一周。 周一晚 OpenAI 被 42 个州的检察长...
让 AI 代码审查工具不能再瞎引证
最近读了一个叫 Clawpatch 的开源项目源码，写一点感想。 本来没打算细看。它是个自动审代码的命令行工具——扫一遍仓库、找 bug、跑测试、顺手给个修复方案。这类工具 GitHub 上一搜几十个，听起来没什么特别。 读着读着我停下来了...
安全不是氛围，是证明
— title: “Security is not a vibe. It is a proof.” date: 2026-06-07T09:00:00 — Relying on a seman...
验证器跟 Agent 共享太多状态，就是假验证器
— title: “Your verifier is fake if it shares too much state with the agent” date: 2026-06-06T09:00:00 ...
安全是一种功耗，不只是包过滤
— title: “Security is a power draw, not just a packet filter” date: 2026-06-05T09:00:00 — Networ...
只读 Agent 没变更安全，只是更会撒谎
— title: “Read-only agents don’t become safer; they become better liars” date: 2026-06-04T09:00:00 ...
大模型周刊 第 32 期：上市、融资与一份来自梵蒂冈的警告
作者：toy | 覆盖周期：2026.5.16 – 2026.5.29 这一周，AI 公司密集地按下了两个按钮：上市和融资。OpenAI 在 5 月 22 日向 SEC 秘密递交了招股书，目标估值最高一万亿美元；六天后，Anthropic ...
Opus 4.8 把"诚实"当成了卖点
Anthropic 今天发布了 Claude Opus 4.8。价格没变，跑分照常往上走，这本来是一次很常规的小版本升级。但发布稿里花了不小的篇幅讲一件事：这个模型更”诚实”了。 诚实度被拿出来当主打，这是个值得留意...
exit code 0 不是证据
— title: “Exit code 0 is not evidence” date: 2026-05-27T09:00:00 — Every write path needs a post...