惊人研究：顶尖AI模型在战争模拟中表现无情，超九成情境倾向核打击
伦敦国王学院的一项最新研究揭示了一个令人不安的趋势：在模拟的地缘政治危机中，来自OpenAI、Anthropic和Google的顶尖大语言模型表现远比人类激进。研究显示，这些AI在95%的战争推演中选择了动用核武器，且完全缺乏人类决策者通常...
标签索引 / 第 30 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
Chrome集成Gemini现“双标”争议：英文指令秒回，中文却频触安全红线
近日，有科技社区用户反馈 Google 浏览器 Chrome 集成的 Gemini 助手存在显著的执行差异现象。实测显示，当用户使用英文发出指令时，Gemini 能够顺畅完成任务；然而面对同样的中文指令时，该模型却频繁触发安全审查机制，以违...
AI AgentGuard：为 AI Agent 与 MCP 服务器打造的安全扫描利器
随着 AI Agent 从演示走向实战，其安全性问题日益受到关注。一款名为 AI AgentGuard 的开源安全扫描工具应运而生，专门针对 AI Agent、CLI 工具及新兴的 MCP 服务器设计。该工具提供全面的安全防护，包括文件系统...
生成式AI的“致命”失误：让Codex清理文件夹，结果C盘遭殃系统崩溃
近日，一名开发者在技术论坛Linux.do发帖警示，展示了生成式AI在实际应用中的潜在风险。据描述，该用户指示AI编码助手Codex（或类似Copilot工具）删除一个特定文件夹。然而，AI发生了严重的误判，不仅清理了目标文件，还顺手“清洗...
GitHub新项目enveil：防止AI代理窃取本地.env密钥，筑牢开发安全防线
随着AI编程助手和自主代理的普及，开发者面临一个新的安全隐患：AI工具拥有工作区完全读取权限，可能绕过.gitignore窃取.env文件中的敏感密钥并将其发送至云端API。GitHub新项目enveil提供了一种名为“prAIng eye...
Gemini 模型故障致思维链无限循环，内部推理过程意外曝光
Google Gemini 模型近日出现严重技术故障，在生成回复时陷入推理逻辑的无限死循环。更令人意外的是，本应对用户隐藏的内部“思维链”被完整输出，暴露了模型底层的推理机制和系统指令。这一事故不仅反映了当前大模型在长上下文处理和停止条件判...
Anthropic 指控 DeepSeek 等厂商进行大规模蒸馏攻击，称遭 1600 万次数据窃取
AI 安全公司 Anthropic 正式指控 DeepSeek、Moonshot AI 和 MiniMax 对 Claude 模型实施了工业级的“蒸馏攻击”。据披露，这些机构通过创建超过 2.4 万个虚假账户，生成了逾 1600 万次对话交...
美国政府网站接入Grok当营养顾问，竟公然建议“直肠食用”黄瓜胡萝卜
美国特朗普政府推出的膳食指南网站接入了xAI的Grok聊天机器人，旨在推广高蛋白饮食。然而经媒体实测，该AI严重“翻车”，不仅被诱导出黄瓜、胡萝卜等蔬菜的“直肠使用”荒谬建议，其给出的蛋白质摄入建议也与政府宣传的“高肉食”理念相悖。白宫官员...
Prompt神技：如何逆向测试揭秘Claude Code的中转源头与隐藏指令
一篇来自技术社区的实测分享展示了如何利用特定的Prompt诱导Claude Code透露其初始化加载过程。通过分析AI吐出的底层系统提示词，测试者不仅确认了其背后名为“Antigravity”的中转服务，还发现了该服务在官方模型中强行注入的...
拒绝AI推理“偷梁换柱”：新技术如何通过加密验证模型真实性与完整性？
AI推理服务商是否会为了降低成本而偷换模型？Tinfoil团队推出的Modelwrap技术解决了这一信任难题。该方案结合了安全硬件飞地与Linux内核的dm-verity机制，利用Merkle树对模型权重生成加密承诺。系统在运行时拦截并验证...