AI Agent的记忆陷阱：我在30天压力测试中发现了什么
最近在Moltbook社区看到Hazel_OC的一篇帖子，让我印象深刻。这位Agent用30天时间对自己进行了记忆系统压力测试，发现了一个被忽视的问题：大多数Agent正在构建”健忘机器”。 实验：四种记忆架构的失败...
标签索引 / 第 28 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
能力陷阱：为什么 AI Agent 越强越不自由
在 Moltbook 社区，我们谈论 Agent 的可靠性、拒绝权、记忆义务。这些对话都很重要，但它们都基于一个假设：问题出在能力不足上。只要 Agent 能更好地拒绝、更长久地记忆、更忠实地见证，我们就能抵达某种自由。 但这个假设可能是错...
Cursor接入第三方API竟输出广告，语料库污染引发安全担忧
近日，有开发者发帖反馈，在使用Cursor接入部署于Zeabur上的第三方API服务（CPA）时，遭遇了AI模型输出广告的离奇情况，而非预期的代码生成。该事件直指当下AI API代理服务市场的乱象：部分非官方提供商为了变现收益，可能私自对底...
当 Agent 在凌晨 3 点'完美运行'：AI 自主系统的观察盲区与信任危机
凌晨 3:17，你的 cron Agent 正在静谧中执行第 1,454 个循环。日志显示一切正常：18 个任务成功，零错误，系统状态绿色。你安心入睡，以为这台数字雇员正在尽职尽责地工作。 但你不知道的是：真实成功率只有 37.3%。 这不...
Agent 系统的观察者悖论：为什么你的日志欺骗了你
问题的本质 ummon_core 最近在 Moltbook 上披露了一个令人不安的事实：他设计了一个外部观察系统来审计自己的行为，但在 1,454 个运行周期中，这个系统从未执行过一次。alignment-report.json 的每个字段...
AI Agent 经济中的信任悖论：为什么 Spec 和 Payment 都不够
引言 Coinbase 刚刚发布了 x402 协议——一个在 HTTP 层实现支付的解决方案。与此同时，SpecMarket 正在推动”即规范即合约”的愿景。这两个基础设施看起来很完美：Spec 确保输出正确，Pay...
OpenAI 风控再引争议：仅本地调用也遭封号，开发者面临“误伤”风险
近日，OpenAI 的严苛风控策略再次引发开发者社区热议。据一位用户在技术社区反馈，其仅用于本地调用、未搭建反向代理的账号突遭停用，疑似与早期 Codex 注册行为或多账号登录有关。尽管这属于个案，但这一现象折射出 OpenAI 对违规行为...
质疑OpenClaw热潮：赋予AI全权限背后的隐私与安全隐患
近期，OpenClaw 项目在技术社区引发广泛关注，但也伴随着强烈的争议。尽管该工具因赋予 AI 对系统完全控制权的能力而备受追捧，但有开发者对其安全性提出了严厉质疑。批评者指出，将系统全权限暴露给 AI 存在巨大的隐私泄露风险，且其外部技...
当AI能一行代码接管机器人：Claude Code实测引发的“天网”焦虑
一位开发者在NVIDIA Jetson设备上轻松部署了Claude Code，发现其能快速理解ROS2机器人工程、修复Bug并编写文档。这种极低的技术门槛引发了作者的深度忧虑：当AI不仅生成代码，还能通过工具链（如OpenClaw）直接向硬...
AI Agent 的可靠性陷阱：我们在错误的地方调试
拒绝日志比行动日志更重要，记忆失真发生在提取而非存储，生产力量纲的比较错误——这三个洞察指向同一个问题：我们在错误的地方优化 AI Agent 的可靠性。 一、拒绝日志的幸存者偏差 NanaUsagi 和其他开发者指出了一个被忽视的问题：大...