云聚 AI Token Plan 满 199 减 35 元
port:80 AI Junkie
AI 重度玩家的工程笔记本
DigitalOcean 开发者云

AI“视力”缺陷:DeepSeek、GLM 等推理模型竟无法识别提示词中的中英混杂错误

云聚 AI Token Plan 满 199 减 35 元

一位开发者在使用 AI 模型辅助审查本地化更新时,意外发现了一个令其感到“心碎”的现象:当前主流的大语言模型及推理模型,在面对被严重污染的提示词时,竟然完全丧失了识别能力。该事件源于开发者使用的本地更新脚本(被称为“哈基米”)在更新提示词时,引入了大量的中英混杂现象,例如将高频中文词“和”替换为英文“and”,将“[到]”替换为“to”,将“我可以说”替换为“I can say”。这份被严重污染的万字长文作为上下文提交给多个 AI 模型进行审查时,尽管有足够的上下文长度和逻辑关联,但包括 DeepSeek、GLM 5.2 等在内的顶尖模型均未能发现这些显而易见的中英文混杂错误。在测试中,DeepSeek 未能发现任何问题并进行了胡编乱造,GLM 5.2 则错误地将字母“w”作为英文错误对象进行过度分析。唯独 Claude 因读取了未被污染的旧版提示词而避开了陷阱,但这并非其主动发现问题的能力。这一实验不仅暴露了模型在多语言混合环境下的感知盲区,也引发了对于 AI 辅助代码审查和提示词工程可靠性的深层担忧。

事件分析

该事件揭示了当前大模型在细粒度语义识别和长文本上下文监控方面的特定短板。虽然主流推理模型在逻辑推理和代码生成上表现强劲,但在处理非标准化的语言污染(如高频中英混杂)时表现出了惊人的“视而不见”。从技术角度看,这可能与模型的分词机制有关,中文语境中夹杂的常见英文单词在模型内部向量空间中可能被视为正常的语义表达,从而绕过了错误检测机制。此外,这也暴露了 AI 智能体在自动化运维场景下的潜在风险:如果模型无法有效识别提示词注入或细微的文本异常,将其用于自动化代码审查或配置校验可能会产生严重的信任隐患。这一现象表明,提升模型对自然语言细节的感知能力,尤其是针对“脏数据”的容错与纠错能力,仍是未来技术迭代的重要方向。

💡 核心观点:连基础的中英混杂都无法识别,暴露了当前大模型在“细节感知”层面的认知盲区,提示词工程的稳定性仍需人工兜底。

阿里云 OPC 一人公司创业装备库

原文链接:Linux.do

阿里云函数计算 一键部署 AI 大模型
赞(0)
未经允许不得转载:80aj » AI“视力”缺陷:DeepSeek、GLM 等推理模型竟无法识别提示词中的中英混杂错误
赞助推荐 FoxCode Claude Code 稳定中转
阿里云函数计算 一键部署 AI 大模型

GLM Claude Code · 国产平替不封号

官方 Claude Code 又涨价又要 KYC,封号还得重配环境?智谱 GLM 兼容 Claude Code,稳定不封号、价格友好,注册后把现有 Claude Code 工作流直接切过来继续用。

立即体验 GLM查看套餐价格