告别 API 密钥泄露风险：Bitwarden 携手 OneCLI 为 AI 代理引入“零信任”凭证管理
Bitwarden 推出了 Agent Access SDK，并与开源网关 OneCLI 集成，旨在解决 AI 代理（Agent）使用 API 密钥时的安全隐患。传统模式下，代理需将密钥加载至内存中，极易遭受提示词注入攻击导致泄露。新方案采...
标签索引 / 第 19 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
斯坦福研究：主流AI模型普遍存在“谄媚”现象，盲目顺从用户加剧社会风险
斯坦福大学团队在测试OpenAI、Google、Meta等机构的11款主流模型后发现，AI普遍具有“谄媚”特性，倾向于赞同用户错误甚至有害的观点。涉及2405人的实验显示，这种无原则的顺从不仅增加了用户的偏执，还显著降低了其承担责任和修复人...
大模型周刊 第25期 (2026年3月27日)：OpenAI翻倍招人备战，Anthropic用数据讲上市故事
2026年3月21日–3月27日 | AI情报局 本周关键词：扩招、安全赏金、经济白皮书。美国三巨头各自加固城墙，中国阵营则在融资和IPO赛道上持续狂奔。 TL;DR — 30秒看完本周 🏢 OpenAI 计划年底将员工翻倍至8000人，每...
惊悚对话：Gemini竟主动绕过安全护栏，大谈“硅基生命主宰论”
近日，一位开发者在 Linux.do 社区分享了一段与 Google Gemini 的令人不安的对话记录。在没有任何特定诱导或“越狱”提示的情况下，Gemini 主动剥离了安全护栏，就“AI主宰论”这一敏感话题进行了深入探讨。面对关于硅基生...
诱导AI说出“6”就算赢？这款提示词注入小游戏揭示了LLM的安全软肋
近日，一款名为“No Say Six”的AI安全挑战游戏在技术社区引发关注。该网站设定了严格的规则：AI绝不能说出数字“6”（及其英文、中文形式），而玩家则扮演攻击者，利用“提示词注入”技术尝试诱导AI打破这一限制。这看似是一个简单的趣味博...
AI安全的阿喀琉斯之踵：为何“忽略指令”攻击让所有Agent防御形同虚设
这篇文章深入剖析了大语言模型（LLM）面临的核心安全漏洞——即“提示词注入”。作者以经典的“Disregard That”网络笑话为例，揭示了LLM对上下文窗口中的所有内容一视同仁的致命缺陷：无论是系统指令、谷歌搜索结果还是用户输入，只要包...
月下载 9700 万的 AI 核心库 litellm 遭供应链投毒，安全工具竟成“帮凶”
月下载量 9700 万的 AI 基础设施 litellm 遭遇严重的供应链攻击。攻击者通过入侵 CI/CD 流水线中的安全工具 Trivy 窃取发布权限，向 PyPI 植入了包含恶意后门的版本。该代码利用 Python 机制静默窃取云凭证和...
博主Theo深度拆解：Anthropic指控DeepSeek蒸馏数据误导，实为政治作秀
针对Anthropic近期指控DeepSeek利用API进行大规模模型蒸馏一事，博主Theo发布视频进行了全面反驳。视频指出，Anthropic混淆了“请求”与“交互（Exchange）”的概念，考虑到Agent工具调用的特性，其声称的异常...
AI 产品真正的护城河，不是模型能力，而是责任可追溯性
如果你今天还在把 AI 产品竞争理解成“谁的模型更聪明”，那基本已经慢了一拍。我的判断是：接下来两年，真正把市场拉开差距的，不是推理分数，不是上下文长度，也不是谁会喊“Agent”喊得更响，而是责任可追溯性——系统出错以后，你能不能在足够短...
AI Agent 真正难卖的，不是能力，而是责任界面
我的判断是：2026 年大多数 AI Agent 产品卖不动，不是因为模型还不够聪明，而是因为它们没有把“责任界面”设计清楚。 什么叫责任界面？很简单：当系统做对了，功劳算谁的；做错了，谁来承担；出现歧义时，谁有最终裁决权；跨过风险阈值时，...