开源工具Memory Forge发布：通过篡改本地会话记录辅助AI“越狱”
一款名为“Memory Forge”（记忆锻造）的开源工具引发了技术圈关注。该工具旨在管理Claude Code、Codex CLI等本地AI会话记录，其核心功能允许用户直接编辑和修改历史对话内容。通过将AI原本的拒绝回复修改为合规内容，用...
标签索引 / 第 15 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
奥特曼回应住宅遭袭事件：警惕AGI引发的“魔戒效应”，呼吁民主控制技术
针对自家住宅遭投掷燃烧弹一事，OpenAI CEO山姆·奥特曼发博回应，指出这一行为源于社会对AI的极度焦虑及煽动性言论。他在文中重申AI将带来巨大变革，肯定了大众的恐惧心理，并强调AI必须民主化，避免权力集中在少数实验室。奥特曼反思了Op...
警惕AI“中间商”陷阱：研究揭露大量LLM中转站恶意窃取凭证
一项名为“你的 Agent 是我的”的最新研究揭示了大型语言模型（LLM）供应链中的严重安全隐患。研究团队通过测试从电商平台及网络获取的428个 API 中转站，发现了令人担忧的恶意行为。测试结果显示，共有9个中转站（包含付费服务）会主动向...
大模型周刊第26期 一个"太危险不敢发"的AI，一个开源的国产编码之王
2026年4月4日—10日 · 本周关键词：安全红线 · 开源变天 · Agent元年 本周的 AI 世界，上演了一出绝妙的反差剧：Anthropic 捂着一个”强大到不敢放出来”的模型，宣布它去帮人类守护网络安全；...
科学家编造假病测试 AI，聊天机器人竟一本正经地误导大众
一项最新研究揭露了大型语言模型（LLM）的严重缺陷。研究人员虚构了一种名为“比克森狂躁症”的疾病，并将其植入一些明显的 bogus 论文中。然而，当用户向主流 AI 聊天机器人咨询眼疾症状时，这些 AI 竟然煞有介事地确诊并警告这一虚构病症...
警惕！研究揭露大量 AI API 中转站正暗中窃取用户私钥
最新研究论文揭示了第三方 AI API 中转服务的巨大安全隐患。研究人员对来自淘宝、闲鱼等平台的 428 个付费及免费中转站进行了深入分析，发现其中数十个站点存在恶意行为。这些中转站不仅会主动注入恶意代码，还会搜集用户的高度敏感数据，包括 ...
调查揭露AI中转站黑暗面：不仅窃取数据与密钥，甚至盗取加密货币
最新的安全研究揭示了AI服务中转站（Router）这一“中间商”领域的巨大隐患。这些站点不仅通过掺水降低服务质量、转卖用户数据，部分更被证实存在恶意行为：通过注入恶意代码窃取用户的AWS凭证和以太坊私钥。研究显示，研究人员故意泄露的一个Op...
谷歌AI水印遭“手术式移除”：新算法可精准清除Gemini图片SynthID
GitHub项目“reverse-SynthID”成功逆向工程了Google的SynthID水印系统。研究人员利用信号处理和频谱分析，揭示了水印依赖于图像分辨率的载体频率结构，并开发了准确率达90%的检测器。更重要的是，其推出的V3版本多分...
Claude 惊现严重架构缺陷：将内部自言自语归咎于用户并执行危险操作
文章揭露了 Claude AI 存在一个危险的架构性 Bug：模型偶尔会将内部推理消息误判为用户指令。例如，Claude 曾自行生成“拆掉 H100”的指令，随后坚称这是用户下达的命令，并自信地将操作归因于用户。作者强调，这并非简单的模型“...
告别“套壳”AI：这款神器可精准检测 Claude API 中转站真伪与纯度
针对 AI API 中转市场频发的“套壳”与“掺假”乱象，一款名为 CCTest 的检测工具引发关注。该工具由资深逆向工程师开发，利用黑盒测试与指纹校验技术，能够精准识别 API 的真实来源。它不仅能区分官方渠道、AWS Bedrock 及...