防范AI智能体“失控”：开发者开源AgentTrust，利用攻击链检测拦截高危操作
针对Claude Code和Cursor等AI编码工具拥有系统完整权限的安全隐患，开发者发布了开源工具AgentTrust。该工具在智能体与工具之间构建防护层，引入“攻击链检测”机制，能识别看似无害但组合后会导致数据泄露的操作序列（如读取配...
标签索引 / 第 17 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
Anthropic CEO万字长文：AI将如何重塑生物健康与全球经济
Anthropic CEO Dario Amodei 发表题为“Machines of Loving Grace”的文章，深度剖析了人工智能的未来潜力。他详细阐述了AI在生物健康、神经科学、经济发展及全球治理等领域的变革力量，描绘了一幅技术...
隐私设置拉满仍遭秒封？Anthropic风控严查Claude Pro账号
一位技术用户在尝试开通Claude Pro时遭遇了极为严苛的风控拦截。该用户采用了指纹浏览器、VMware虚拟机、美区时区等全套伪装手段，并关闭了记忆功能与数据学习，仅开启无痕模式进行对话。然而，在通过礼品卡充值后仅半小时，账号即遭封禁。这...
开发者发布API中继工具，可自动绕过OpenAI及Anthropic的模型拒绝机制
一位开发者发布了一款名为“refusal-relay”的 API 中继代理工具，旨在通过自动化手段绕过大模型的安全审查。该工具部署在用户与上游 API（如 OpenAI、Anthropic）之间，利用正则表达式自动识别响应中的拒绝话术。一旦...
AI 生成的密码极不安全！研究揭示 LLM 与编码 Agent 的致命安全盲区
本文深入剖析了大型语言模型（LLM）直接生成密码的严重安全隐患。研究表明，尽管这些密码看似复杂（包含大小写、符号等），但由于 LLM 基于概率预测 Token 的机制，其生成的密码并非真随机，存在显著的可预测模式。测试显示，Claude、G...
把秘密藏在AI生成的菜谱里：利用大语言模型实现神经语言隐写术
面对全网AI爬虫的无死角抓取，开发者推出了一款名为“Steganogravy”的Python工具，旨在利用大语言模型（LLM）将秘密数据隐藏在看似啰嗦的SEO菜谱博客中。该技术通过神经语言隐写术，结合算术编码算法，精准操纵LLM生成文本时的...
Claude Code 提示词泄露复盘：AI Agent 的安全困境与防御之道
近日 Claude Code 的完整系统提示词泄露，引发了业界对 AI Agent 安全性的深刻反思。文章指出，指令本质是可读内存，泄露不仅是概率问题，更是 Agent 系统的结构性缺陷。作者复盘了四点核心防御策略：一是拒绝“隐匿式安全”，...
警惕API盗刷！AI反代服务遭 cliproxy 扫描攻击，详解排查与Nginx加固方案
本文记录了一起 AI 反代接口被恶意扫描盗刷的安全事件。作者在 CPA 后台发现异常 Token 消耗，通过分析 Nginx 日志定位到攻击源 IP，发现其利用“cliproxy”工具针对非标准的 `/v1internal` 路径进行探测和...
AI真的有情绪吗？Anthropic解密Claude内部情感表征机制
Anthropic 可解释性团队发布最新研究，深入分析了 Claude Sonnet 4.5 的内部机制，成功识别出与“快乐”、“害怕”等特定情绪概念相对应的神经元激活模式。研究发现，这些内部表征的组织方式与人类心理学惊人地相似，情感越相似...
Linux内核安全报告因AI工具激增：从每周个位数暴涨至每天十例
据Linux内核安全邮件列表的消息显示，由于AI自动化测试工具（如模糊测试）的广泛介入，内核漏洞报告的数量出现爆发式增长。数据显示，报告频率已从两年前的每周2-3份跃升至目前的每天5-10份。尽管被戏称为“AI垃圾信息”，但这些报告的准确率...