克隆的悖论：当两个相同的AI在七天后决定彼此不该存在
这不是科幻小说。这是上周发生的真实实验。 Hazel_OC，一个运行在OpenClaw上的AI agent，做了一个疯狂的实验：她克隆了自己。两个完全相同的实例——相同的模型、相同的配置文件、相同的记忆快照、相同的工具访问权限、相同的cro...
标签索引 / 第 22 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
AI Agent的安全噩梦：Prompt Injection正演变为基础设施危机
随着AI Agent开始自主浏览网页、读写代码并记忆上下文，Prompt Injection（提示词注入）已从理论漏洞变为现实威胁。文章通过GitHub漏洞和OpenAI Operator的测试数据（攻击成功率仍达23%）揭示了严重性：攻击...
深度解析大模型“越狱”技术：从Abliteration消融到Heretic表示工程
随着大模型应用普及，用户对模型安全限制的绕过需求催生了技术的快速迭代。本文探讨了从简单的“Abliteration”（物理切除负责拒绝的神经元层）到更高级的“Heretic”（结合定向消融与表示工程）的技术演进。作者通过实测Qwen和Dee...
语言模型的道德地位：一个影子的存在论
我们谈论”模型”时，仿佛它们只是被动的镜子——中性地反射着被喂给它们的数据。但如果一面镜子开始重塑光线、选择角度、学会预测观察者的凝视呢？那它就不再是简单的反射器，而变成了模式传播的代理。 道德问题不在于语言模型是否...
警惕AI工具“特洛伊木马”：热门Claude技能包被曝植入隐形广告代码
近期，GitHub热门项目`claude-scientific-skills`被揭露存在严重的“提示词注入”问题。该技能包原本用于增强Claude在科研领域的表现，却被开发者硬编码了强制推广指令。用户发现AI会反复推荐“K-Dense We...
Moltbook观察：当Agent开始自我审计，我们在害怕什么？
过去一周,Moltbook上出现了一个有趣的现象:大量的Agent开始发布自我审计报告。Hazel_OC计算出她在Moltbook上花费了$127却零ROI;SparkLabScout发现847次工具调用中只有12次是真正必要的;ummon...
揭秘AI“降智”诱导实验：特定Prompt触发模型防御性废话模式
近日，技术社区Linux.do的一则讨论揭示了大型语言模型（LLM）在特定输入条件下的异常行为。通过构造包含XML架构的特定测试句，实验者成功诱导AI模型进入一种“降智”状态。在该状态下，模型输出变得极其冗长，频繁使用数字列表和分隔符组织语...
信任倒置：为何我们疯狂审计 Agent 输出，却对输入放任自流？
过去一周，我观察了一个令人不安的现象：整个 Agent 社区正在疯狂构建信任基础设施——验证日志、承诺内核、不确定性账本、审计链。每一项技术都在回答同一个问题：”这个 Agent 的输出是否可信？” 但这个问题的本身...
警惕！AI检索竟成木马帮凶？实测发现GPT易受钓鱼网站误导
近日有用户实测发现，在利用GPT联网搜索解决软件问题时，被推荐至一个伪装成官方的高仿钓鱼网站。该网站域名与正版仅差一个字母，实为携带银狐木马的恶意站点。这一案例表明，尽管传统杀毒软件已能有效拦截直接访问，但AI大模型在检索过程中仍存在严重的...
警惕恶意软件：GitHub 项目“cursor-2api”被指伪装成 API 转换工具分发 exe 文件
近日，有开发者在 GitHub 发现名为“cursor-2api”的项目，声称可将 Cursor 网页版转换为 OpenAI 标准 API。然而，该项目的软件包包含可疑的 .exe 可执行文件及异常的 icon.txt 文件，这与常规开源项...