ChatGPT惊现“碎片化”输出异常：大模型推理机制引发热议

近日，在开发者社区Linux.do上，一位用户报告了在使用ChatGPT时遭遇的异常输出现象。该用户表示，在没有任何特殊的提示词干扰或上下文污染的情况下，模型突然开始频繁地分段输出文本，导致内容破碎，严重影响了阅读体验。这种被称为“疯狂分段”的现象并非孤例，在大模型应用讨论中时有出现。从技术层面分析，这类异常通常是大模型在进行推理过程中的“侧漏”现象。现代大模型普遍采用思维链技术，模型在内部推理时会使用特定的格式符来划分步骤。当模型的格式化约束不够严格，或者在Token预测过程中错误地将换行符赋予了极高的概率时，内部的推理格式可能就会溢出到最终的输出层。此外，这也可能与模型的随机采样温度有关，在某些随机路径下，模型陷入了错误的局部循环。这种不可预测的格式错误揭示了当前生成式AI在稳定性与可控性方面仍面临挑战。

事件分析

💡 核心观点：ChatGPT的碎片化输出暴露了推理机制的泄露风险，提升格式可控性是AI应用落地的重要门槛。