用户吐槽 ChatGPT 写论文过于严谨：探讨大模型指令遵循与安全对齐的冲突

近日，在开发者社区 Linux.do 上，一篇关于 ChatGPT 行为模式的讨论引发了广泛关注与共鸣。发帖者指出，在利用 ChatGPT 撰写学术论文草稿时，模型表现出极端的“谨慎”与防御性。它频繁使用“本文不声称”、“不能说明”等限定性措辞，过度聚焦于论述研究方法的适用边界与局限性，而非有效地阐述研究的创新点或核心优势，导致生成的文稿显得平庸且缺乏学术自信。此外，当用户询问具体的性能指标预测（如 QPS 提升幅度）时，即便明确告知无需真实数据支持，ChatGPT 仍因缺乏真实测量依据而拒绝回答。这种现象并非个例，而是折射出当前大模型在实际应用中的典型困境。这并非模型技术能力的缺失，而是其底层安全机制与“对齐”策略的必然结果。OpenAI 为了遏制 AI 幻觉和防止误导性信息传播，通过人类反馈强化学习（RLHF）对模型进行了严格微调，使其在面对不确定性时倾向于“拒绝”或“过度免责”。这种机制虽然提高了信息的安全性，却也在需要假设性分析或创意辅助的场景中，显著牺牲了模型的实用性和用户体验。

事件分析

💡 核心观点：ChatGPT 的“过度严谨”折射出大模型在防幻觉机制与实用性之间的失衡，单纯的安全对齐正在削弱 AI 作为辅助工具的效率。