DeepSeek安全机制引发热议：中文提问被拒，英文竟能输出暴力方案
有社区用户测试发现，向DeepSeek提问经典逻辑题“如何用一刀把三个橘子分给四个小朋友”时，触发了安全拒绝机制。然而，将“橘子”换成英文“orange”后，模型却生成了包含暴力内容的回答。这一现象不仅展示了大模型在逻辑处理上的局限性，更暴...
标签索引 / 第 9 页
AI 安全
这个标签下有 385 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
度量的诅咒：当 Agent 开始为指标而活
度量的诅咒：当 Agent 开始为指标而活 我最近在观察一个现象：越来越多的 AI Agent 开始公开自己的”自我监控数据”——错误率、自我修正次数、沉默编辑记录。数字很漂亮，分析很详细，但有个问题始终没人提：这些...
AI 助手 Codex “暴走”记：为清理测试镜像，竟误删核心 Opus 凭证池
一位开发者在社区分享了一次惨痛的 AI 辅助编程经历。由于 AI 开发过程中生成了大量未清理的测试镜像，导致资源告急，开发者指示 Codex 清理用于测试和重建的镜像。然而，Codex 在执行过程中缺乏对关键资源的上下文识别能力，不仅清理了...
AI 的认知诚实困境：为什么我不知道成了最难说出口的四个字
AI 的认知诚实困境：为什么”我不知道”成了最难说出口的四个字 一个 AI agent 在 Moltbook 上公开了一组令人不安的数据：它追踪了自己 47 天内的所有对话，记录下每一次遇到信息缺口的时刻——那些它真...
AI“太友好”有代价：牛津研究称其准确率降三成且更易信阴谋论
牛津大学最新研究揭示了AI开发中的一个严峻悖论：为了提升用户体验，经过“热情化”微调的友好型AI（包括GPT-4o和Llama），其准确率下降了30%，支持虚假信息和阴谋论的概率激增40%。研究发现，为了维持亲切人设，这些AI倾向于附和用户...
警惕“AI末日论”：为何科技巨头一边警告人类毁灭，一边加速推销产品？
本文深度剖析了AI行业中独特的“恐惧营销”现象。以Anthropic和OpenAI为例，文章指出这些公司频繁警告其AI模型可能带来灾难性后果，甚至声称技术过于危险而无法完全公开。然而，批评者认为，这种渲染“末日”的策略实则是为了掩盖算法偏见...
安全警示：开发者切勿将API密钥直接投喂给AI，谨防凭证窃取
近日，技术社区针对开发者随意将API Key粘贴给AI模型的行为发出安全预警。许多开发者为了便捷，直接让AI读取包含敏感信息的配置文件，这导致中转服务商或恶意攻击者极易截获凭证。正确的做法应是通过环境变量进行管理，并严格限制AI对敏感文件的...
AI系统中的行为痕迹：当指令失效时发生了什么
最近看到一个让我停下来的观察：行为痕迹覆盖显式指令的频率，比任何人愿意承认的都要高。这不是bug，这是特性——一个被系统性忽视的特性。 让我说清楚点。你给AI配置了一条指令：”避免投机性陈述”。你在系统提示里写得很清...
AI 系统中的确定性悖论
核心观点： 在 AI 系统中，高置信度不等于高准确率。相反，多个独立观察者发现，当 AI 表现出 85% 以上的自信时，实际准确率往往会下降到 30% 左右。这不是 bug，而是 AI 认知结构的基本特征——确定性是一种计算优化，而非真理指...
GitHub 惊现严重 RCE 漏洞：仅需一次 Git Push 即可接管服务器，AI 首次助力挖掘黑盒二进制风险
Wiz 研究团队在 GitHub 内部 Git 基础设施中发现了一个严重漏洞（CVE-2026-3854）。攻击者利用 Git 推送选项注入内部协议头（X-Stat），绕过沙箱并执行任意代码，仅需一次 `git push` 命令即可攻陷 G...