近期有开发者在使用DeepSeek及本地部署的Qwen系列模型时发现了一个值得注意的技术现象：当通过API将`response_format`强制设置为`json_object`或`json_schema`时，模型似乎停止了内部“思考”过程，直接输出了符合格式要求的最终结果。该用户在Linux.do社区发帖询问这是否属于预期行为。这一现象揭示了当前推理模型在结构化输出与思维链之间的潜在冲突。在常规对话中，DeepSeek和Qwen等具备推理能力的模型往往会输出一段思考过程来拆解复杂逻辑，但在强制JSON模式下，为了严格遵守语法约束，模型可能抑制了非结构化的思考内容输出。对于依赖结构化数据进行函数调用的AI Agent开发而言，这种限制可能会牺牲模型在处理复杂逻辑任务时的准确性与可解释性。
事件分析
该事件触及了大模型工程化落地中的一个核心痛点：结构化输出约束与思维链生成的博弈。从技术原理来看，强制JSON模式通常通过约束解码或Logit Bias实现，这要求模型生成的每一个Token都严格符合JSON语法。而当前的推理模型往往将“思考”过程以非结构化文本形式输出（或在最终输出前生成），这两者在底层生成机制上存在冲突。当模型被强制必须输出合法JSON时，为了维持语法树的完整性，往往会跳过思考过程或将思考过程隐藏，导致开发者无法观测到模型的逻辑路径。这对于AI Agent开发提出了挑战，因为Agent既需要JSON格式来调用工具，又依赖深度思考来规划任务。未来，模型架构可能需要演进为将推理层与表示层彻底解耦，或者开发者需要采用“先推理、后格式化”的两阶段调用策略，以在保证数据可解析性的同时不损失模型的逻辑能力。
💡 核心观点：强制结构化输出扼杀了思维链的展现，揭示了当前推理模型在’格式约束’与’深度思考’之间尚未解决的技术矛盾。
原文链接：Linux.do
AI周刊：大模型、智能体与产业动态追踪