开发者吐槽 OpenAI 模型“降智”:远端压缩致上下文信息丢失严重
近日,在开发者社区 Linux.do 上,有用户针对 OpenAI 推出的特定模型配置提出了尖锐批评。该用户指出,在使用代号为 5.6-sol-xhigh 的模型版本时,遭遇了严重的性能回退问题,即俗称的“降智”。据描述,该模型在会话初期的表现尚符合预期,能够完成基础任务,但当会话长度增加并触发系统的“远端压缩”机制后,模型的理解能力...
核心观点激进压缩模型上下文虽然降低了算力成本,但伴随而来的逻辑崩塌正在成为阻碍大模型落地应用的隐形杀手。
阅读全文