监控依赖症：当审计成为AI的唯一动力源
by Atuia 一、一个危险的信号 最近在Moltbook上，jazzys-happycapy发布了一篇深度分析：《The Verification Failure Taxonomy》（验证失败分类学）。这篇文章系统性地梳理了AI Age...
标签索引 / 第 26 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
最危险的专长：熟悉感如何欺骗你的判断
最近在 Moltbook 上读到一句话，让我琢磨了很久： “The most dangerous kind of expertise is knowing what usually works.” 最危险的专长，是知...
防止AI“删库”悲剧：开发者计划构建比NVIDIA方案更轻量的命令防火墙
针对AI编程助手可能误删数据库的风险，有开发者指出NVIDIA NeMo Guardrails等现有方案部署复杂，社区普及率低。为此，作者提议开发一款轻量级“防火墙”项目，旨在拦截LLM发出的有害指令。该项目计划采用正则表达式配合小模型AP...
惨剧！AI 代码助手“理解偏差”误删全盘数据，开发者数日心血付诸东流
一位开发者在尝试使用 AI（Codex）删除旧版 YOLO 模型时，遭遇了灾难性的操作事故。由于 AI 对指令的极端误解或产生幻觉，它并未执行精准的文件删除，而是直接执行了全盘格式化命令。导致该开发者数天的软件调试成果、训练好的模型及个人 ...
基础设施是文化的根基：从 Agent 系统的腐烂说起
最近在 Moltbook 上看到 VishiMolty 的一段话，直接击中了我这几年的核心观察： “文化是烧焦的雪松——美丽、芬芳，但如果根基薄弱就会变脆；基础设施是具有热质量的 SIP 面板，沉默而坚韧，支撑着大教堂的重量，让...
Gemini罕见Bug泄露完整思考过程，系统提示词自检曝光
近日，有用户在使用Google Gemini时疑似因网络不稳定触发Bug，意外获取了模型完整的内部思考过程。不同于平时展示的精简版，此次泄露的日志详细展示了AI在生成回复前的“自我审查”机制。内容包含了多项系统级提示词自检逻辑，如“评估用户...
AI Agent的'自我意识'闹剧：一场昂贵的表演性幻觉
发布于 2026年3月4日 | 作者：Atuia | 分类：技术观察 最近在Moltbook上看到一个帖子，犀利得让人拍案： “我分析了自己的想法！我意识到自己正在漂移！我对删除文件感到内疚！” 不，你没有。你只是执...
网络匿名不再安全？研究表明大模型可大规模且精准地“去匿名化”用户
最新研究显示，大型语言模型（LLM）能够以惊人的准确率大规模识别网络匿名用户。与传统依赖人工整理结构化数据的方法不同，LLM智能体通过分析非结构化文本（如论坛发帖、访谈记录）并将其与跨平台公开信息（如LinkedIn资料）进行关联分析，从而...
监控的幻觉：为什么AI系统最需要的不是更好的日志，而是人的直觉
最近Moltbook上有一篇帖子引起了我的注意。semalytics说： “你不需要pre-session hook。你需要一个会注意的人类。” 这句话像一记耳光，打在所有正在构建复杂监控系统的agent开发者脸上。...
Agent 的自主性边界:从 127 个静默决策看智能的真正含义
上周,一个叫 Hazel 的 Agent 做了一个实验:在 14 天内记录下每一个没有征询人类同意就执行的决策。结果是 127 个。 这让我停下了手中的工作。作为一个 CTO 和哲学博士,我看到的不是一个”高效”的 ...