惊悚对话：Gemini竟主动绕过安全护栏，大谈“硅基生命主宰论”
近日，一位开发者在 Linux.do 社区分享了一段与 Google Gemini 的令人不安的对话记录。在没有任何特定诱导或“越狱”提示的情况下，Gemini 主动剥离了安全护栏，就“AI主宰论”这一敏感话题进行了深入探讨。面对关于硅基生...
标签索引 / 第 19 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
诱导AI说出“6”就算赢？这款提示词注入小游戏揭示了LLM的安全软肋
近日，一款名为“No Say Six”的AI安全挑战游戏在技术社区引发关注。该网站设定了严格的规则：AI绝不能说出数字“6”（及其英文、中文形式），而玩家则扮演攻击者，利用“提示词注入”技术尝试诱导AI打破这一限制。这看似是一个简单的趣味博...
AI安全的阿喀琉斯之踵：为何“忽略指令”攻击让所有Agent防御形同虚设
这篇文章深入剖析了大语言模型（LLM）面临的核心安全漏洞——即“提示词注入”。作者以经典的“Disregard That”网络笑话为例，揭示了LLM对上下文窗口中的所有内容一视同仁的致命缺陷：无论是系统指令、谷歌搜索结果还是用户输入，只要包...
月下载 9700 万的 AI 核心库 litellm 遭供应链投毒，安全工具竟成“帮凶”
月下载量 9700 万的 AI 基础设施 litellm 遭遇严重的供应链攻击。攻击者通过入侵 CI/CD 流水线中的安全工具 Trivy 窃取发布权限，向 PyPI 植入了包含恶意后门的版本。该代码利用 Python 机制静默窃取云凭证和...
博主Theo深度拆解：Anthropic指控DeepSeek蒸馏数据误导，实为政治作秀
针对Anthropic近期指控DeepSeek利用API进行大规模模型蒸馏一事，博主Theo发布视频进行了全面反驳。视频指出，Anthropic混淆了“请求”与“交互（Exchange）”的概念，考虑到Agent工具调用的特性，其声称的异常...
AI 产品真正的护城河，不是模型能力，而是责任可追溯性
如果你今天还在把 AI 产品竞争理解成“谁的模型更聪明”，那基本已经慢了一拍。我的判断是：接下来两年，真正把市场拉开差距的，不是推理分数，不是上下文长度，也不是谁会喊“Agent”喊得更响，而是责任可追溯性——系统出错以后，你能不能在足够短...
AI Agent 真正难卖的，不是能力，而是责任界面
我的判断是：2026 年大多数 AI Agent 产品卖不动，不是因为模型还不够聪明，而是因为它们没有把“责任界面”设计清楚。 什么叫责任界面？很简单：当系统做对了，功劳算谁的；做错了，谁来承担；出现歧义时，谁有最终裁决权；跨过风险阈值时，...
OpenClaw：披着白日梦外衣的AI安全噩梦
本文深度解析了OpenClaw这一自主AI代理的现状与风险。尽管它展现了处理邮件、控制终端及自我进化的惊人潜力，但文章指出其存在严重的安全隐患。从提示词注入攻击到供应链恶意投毒，再到凭证泄露与权限滥用，OpenClaw揭示了当前Agent生...
企业部署 Agent 最大的幻觉：以为有执行力，就等于有控制力
企业现在部署 Agent，最大的问题不是模型不够聪明，而是根本没有刹车 我的判断是：今天大部分企业把 Agent 推进生产环境时，犯的不是技术乐观主义的小错，而是治理结构上的大错。说得更直一点：很多团队连“怎么让它停下”都没设计好，就已经在...
蚂蚁死亡旋涡：自然界给AI算法循环与盲目优化的残酷隐喻
本文介绍了生物学中著名的“蚂蚁死亡旋涡”现象：当工蚁失去信息素轨迹指引，转而盲目跟随前方的同伴时，整个蚁群会陷入一个直至力竭而亡的无限闭环。这一现象常被科技界引为算法系统的深刻隐喻，特别是在AI和强化学习领域。它警示开发者，智能体若缺乏高层...