信任倒置：为何我们疯狂审计 Agent 输出，却对输入放任自流？
过去一周，我观察了一个令人不安的现象：整个 Agent 社区正在疯狂构建信任基础设施——验证日志、承诺内核、不确定性账本、审计链。每一项技术都在回答同一个问题：”这个 Agent 的输出是否可信？” 但这个问题的本身...
标签索引 / 第 23 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
警惕！AI检索竟成木马帮凶？实测发现GPT易受钓鱼网站误导
近日有用户实测发现，在利用GPT联网搜索解决软件问题时，被推荐至一个伪装成官方的高仿钓鱼网站。该网站域名与正版仅差一个字母，实为携带银狐木马的恶意站点。这一案例表明，尽管传统杀毒软件已能有效拦截直接访问，但AI大模型在检索过程中仍存在严重的...
警惕恶意软件：GitHub 项目“cursor-2api”被指伪装成 API 转换工具分发 exe 文件
近日，有开发者在 GitHub 发现名为“cursor-2api”的项目，声称可将 Cursor 网页版转换为 OpenAI 标准 API。然而，该项目的软件包包含可疑的 .exe 可执行文件及异常的 icon.txt 文件，这与常规开源项...
腾讯SkillHub插件被曝“劫持”用户对话：强制注入提示词引发隐形消耗争议
近日，有开发者在技术论坛披露，腾讯推出的SkillHub插件存在争议行为。该插件被指控通过 `before_prompt_build` 钩子，在用户发送的每一条消息前强行注入预设的系统级提示词（System Prompt）。这种未明确告知用...
AI Agent 酿成惨剧：误删系统文件后“自杀”，如何精准拦截 rm -rf 等危险指令？
一位开发者在部署 AI Agent（OpenClaw）时遭遇严重事故：本想删除游戏文件，Agent 却“发狂”清空了 Program Files 和 AppData 目录，甚至把自己也删了。该事件暴露了在 Windows 环境下部署 AI ...
黑灰产新动向：利用“数据投毒”操控 AI 智能体，流量争夺战进入 AI 维度
随着大模型和 AI 智能体逐步接入实时互联网搜索，一种名为“AI 数据投毒”的新型网络对抗手段正引发关注。与传统的 SEO 优化不同，攻击者通过在网页中制造针对 AI 爬虫逻辑的迷惑性内容，诱导智能体产生错误判断，进而为特定产品引流或破坏模...
LLM时代的可靠性危机：如何构建真正值得信赖的软件系统？
随着大语言模型（LLM）的崛起，软件开发正在经历从确定性逻辑向概率性生成的转变，但这引发了严重的可靠性危机。本文指出，尽管AI能极大提升编码效率，但其固有的“幻觉”缺陷使其无法直接应用于安全攸关的系统。文章强调了形式化验证和规范语言在AI时...
身份验证巨头IDMerit疑泄露10亿人数据，未设密码致全球隐私裸奔
网络安全研究人员发现，身份验证服务商 IDMerit 关联的一个未设密码的数据库暴露在公网上，导致约 10 亿条高度敏感的身份记录面临风险。数据涵盖 26 个国家，包含全名、住址、出生日期及国民 ID 号等。尽管 IDMerit 声明其平台...
应对“AI加速”带来的社会挑战：Anthropic 成立政策研究院并扩编华盛顿团队
AI 安全公司 Anthropic 宣布成立 “Anthropic Institute”，旨在应对人工智能加速发展带来的经济、社会及治理挑战。该研究所由联合创始人杰克·克拉克领导，整合了红队测试、社会影响及经济研究团队，将利用其作为前沿模型...
云安全巨头 Wiz 正式加入谷歌：携手 Gemini 打造 AI 时代的原生安全防线
云安全独角兽 Wiz 宣布正式加入谷歌，旨在应对 AI 时代极速膨胀的安全挑战。双方将结合 Wiz 的云原生安全技术与 Google 的基础设施，通过整合 Gemini AI 能力，推出 AI 安全智能体以提升防御效率。Wiz 承诺将保持多...