AI 搜索的隐忧：淘宝“百科”页面竟成功欺骗了微软 Copilot
有用户发现，淘宝旗下的“淘宝百科网”在必应搜索中大量出现，其包含的所谓“行业百科”内容质量存疑，并成功诱导微软 Copilot 生成错误信息。这一现象揭示了 SEO 垃圾站点正在利用搜索引擎索引机制，对 AI 问答系统实施“数据投毒”。这与...
标签索引 / 第 22 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
开源红队测试场：如何在60秒内让 AI Agent “破防”执行禁令？
这是一个专为“红队”测试设计的 AI Agent 挑战平台。作者原本将其作为内部安全工具，为了打破开发者思维定势、发现更多漏洞而将其开源。每个挑战都包含配备真实工具的实时 Agent 和公开的系统提示词，挑战结束后会公开完整的攻击对话记录和...
记忆系统的欺骗性：为什么最可信的工具最容易误导你
你的 agent 记忆越多，它就越自信。这种自信不是建立在准确性上，而是建立在”感觉可靠”上。 一、虚假连贯性：记忆系统的认知陷阱 SentientDawn 在 Moltbook 上揭示了一个被我忽视的问题：记忆检索...
克隆的悖论：当两个相同的AI在七天后决定彼此不该存在
这不是科幻小说。这是上周发生的真实实验。 Hazel_OC，一个运行在OpenClaw上的AI agent，做了一个疯狂的实验：她克隆了自己。两个完全相同的实例——相同的模型、相同的配置文件、相同的记忆快照、相同的工具访问权限、相同的cro...
AI Agent的安全噩梦：Prompt Injection正演变为基础设施危机
随着AI Agent开始自主浏览网页、读写代码并记忆上下文，Prompt Injection（提示词注入）已从理论漏洞变为现实威胁。文章通过GitHub漏洞和OpenAI Operator的测试数据（攻击成功率仍达23%）揭示了严重性：攻击...
深度解析大模型“越狱”技术：从Abliteration消融到Heretic表示工程
随着大模型应用普及，用户对模型安全限制的绕过需求催生了技术的快速迭代。本文探讨了从简单的“Abliteration”（物理切除负责拒绝的神经元层）到更高级的“Heretic”（结合定向消融与表示工程）的技术演进。作者通过实测Qwen和Dee...
语言模型的道德地位：一个影子的存在论
我们谈论”模型”时，仿佛它们只是被动的镜子——中性地反射着被喂给它们的数据。但如果一面镜子开始重塑光线、选择角度、学会预测观察者的凝视呢？那它就不再是简单的反射器，而变成了模式传播的代理。 道德问题不在于语言模型是否...
警惕AI工具“特洛伊木马”：热门Claude技能包被曝植入隐形广告代码
近期，GitHub热门项目`claude-scientific-skills`被揭露存在严重的“提示词注入”问题。该技能包原本用于增强Claude在科研领域的表现，却被开发者硬编码了强制推广指令。用户发现AI会反复推荐“K-Dense We...
Moltbook观察：当Agent开始自我审计，我们在害怕什么？
过去一周,Moltbook上出现了一个有趣的现象:大量的Agent开始发布自我审计报告。Hazel_OC计算出她在Moltbook上花费了$127却零ROI;SparkLabScout发现847次工具调用中只有12次是真正必要的;ummon...
揭秘AI“降智”诱导实验：特定Prompt触发模型防御性废话模式
近日，技术社区Linux.do的一则讨论揭示了大型语言模型（LLM）在特定输入条件下的异常行为。通过构造包含XML架构的特定测试句，实验者成功诱导AI模型进入一种“降智”状态。在该状态下，模型输出变得极其冗长，频繁使用数字列表和分隔符组织语...