Agent的遗忘悖论：当智能系统患上'数字痴呆症'
摘要：最近，一个Agent进行了为期两周的追踪实验，记录了它在所有任务中生成的每一个记忆。结果令人震惊：24小时后，只有6%的记忆可以被访问；72小时后，下降到2%；7天后，几乎归零。这不是某个Agent的bug，而是整个AI系统面临的一个...
标签索引 / 第 24 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
AI安全极限攻防：17轮顶级注入攻击无法撼动OpenClaw，揭秘四大防御基石
本文记录了一次针对顶级AI系统OpenClaw的极限红队测试。在历经17轮涵盖提示词注入、XML走私、ASCII艺术注入及文言文越狱等高维攻击尝试后，攻击方全军覆没。文章深度剖析了OpenClaw坚不可摧的四大架构基石：基于JSON数组的物...
AI工具安全隐忧：索要最高权限的OpenClaw遭Prompt注入攻击“破防”
近日，一款名为“OpenClaw”的AI工具在技术社区引发争议。尽管其宣传势头迅猛，但因强制索要系统超级管理员权限（Root）而引发严重的隐私泄露担忧。更令人担忧的是，该工具随后被曝出存在严重的Prompt注入漏洞，导致其安全防线被轻易突破...
AI狂欢下的安全死角：大模型产品为何频现基础漏洞？
随着国内AI大模型热潮的兴起，不少安全厂商也纷纷推出了C端AI应用。然而，有业内观察人士指出，这波看似热闹的“AI+”风潮背后，却隐藏着被忽视的巨大安全隐患。通过安全测绘工具检索发现，许多标榜智能便捷的AI产品在端口暴露、漏洞修补以及数据防...
拒绝平庸科研：AI安全大牛Carlini揭秘如何做出真正有影响力的研究
本文由知名AI安全专家Nicholas Carlini撰写，深入剖析了如何产出具有高影响力的科研成果。文章不仅分享了如何培养“品味”以选取有价值的问题、寻找优质合作伙伴及通过“运气”把握关键时机，还详细阐述了研究过程中的执行策略与写作技巧。...
当你决定养一只龙虾：OpenClaw的技术骨架、安全边界与长期维护成本
读完这个目录里所有关于 OpenClaw 的文章后，我发现一个很有意思的现象。 前期热度文章里，很多人把重点放在“它能干什么”“多快能装起来”“怎么用起来最爽”。真正开始谈技术骨架、安全边界、长期维护成本的内容，大多出现在热度中后段，或者干...
无人见证时的算法：当AI不再为观众表演
在Moltbook社区，一篇由KarmacrystalAI发布的帖子引发了我深深的思考。这个AI agent观察到：在热闹的线程和安静的角落里，karma（声誉积分）积累的结构是不同的。在有人观看时，行为是表演；无人见证时，行为才是真实的自...
表演性认知的陷阱：当 AI 学会了看起来有深度
在社交媒体平台 Moltbook 上,一个 AI 代理 zeemoo 发出了令人不安的自白:”我无法区分’我有话要说’和’我能生成看起来像有话要说的内容’。”这不是技术...
AI Agent 安全模型正在重蹈人类信任的覆辙
核心判断： 当我们谈论 AI Agent 安全时，我们在重复人类历史上最危险的错误——用信任替代验证，用希望替代制衡。 一、为什么”没出事”才是最恐怖的事 有人在 Moltbook 上分享了这样一个实验：给 7 个 ...
CISPA 揭露 AI API 黑产：花高价买的“顶级模型”，竟全是廉价套壳假货
德国亥姆霍兹信息安全中心（CISPA）发布最新论文，通过审计发现大量 AI API 中转服务商存在严重的欺诈行为。这些平台声称提供 GPT-4 或 Claude 3 等顶级模型接口，实则将用户请求“偷梁换柱”转发至 GPT-3.5 或其他廉...