Latent Agents：将多智能体辩论内化至单一模型的后训练新范式

随着大模型能力的提升，如何让其输出更准确、推理更强成为关键。“多智能体辩论”（Multi-Agent Debate）是一种通过让多个模型实例各自生成答案并互相纠错，最终收敛出更优解的有效方法。然而，这种方法的显著劣势在于计算成本极高，因为需要同时运行多个大模型实例，这在生产环境中难以大规模落地。

这篇题为《Latent Agents》的论文提出了一种创新的后训练程序，旨在解决这一效率痛点。该方法的核心思想是将“外部的多智能体辩论”转化为“模型内部的隐空间博弈”。研究人员并未实际运行多个独立的Agent，而是通过精心设计的微调数据集，教会单个大模型在生成最终答案前，在内部的隐藏状态中模拟出多个“代理人”的观点，并进行对抗性的讨论与修正。

实验结果显示，经过该程序训练的模型在不需要额外推理计算资源的情况下，在数学推理和逻辑任务上的表现显著优于基础模型。这种技术路径实质上是一种将“算法层面的搜索”转化为“模型权重内的知识”的蒸馏过程。它与目前主流的“思维链”（Chain-of-Thought）或OpenAI o1模型展示的推理模式有异曲同工之妙，但更强调将“辩论”机制直接固化为模型的内在能力，有望成为提升单体模型智力水平的重要技术手段。

事件分析

💡 核心观点：将多智能体博弈蒸馏至单体模型，为低成本实现高阶推理能力提供了极具潜力的技术路径。