研究团队发布了Ring-Zero,这是一种将零样本强化学习(Zero RL)扩展至一万亿参数规模的前沿训练框架。针对现有研究受限于计算资源、仅能在小模型上探索的问题,团队通过裁剪重要性采样、训练推理比校正及混合精度控制等系统优化手段,构建了稳定高效的训练管线,旨在探索大规模参数下的模型涌现能力。实验结果显示,模型规模扩展至万亿参数后,样本效率和性能天花板显著提升,且训练过程呈现出从“发现阶段”到“锐化阶段”的演进特征。研究观察到模型在无人工标注数据的情况下,自发产生了拟人化、结构化格式、自我验证、并行推理及上下文焦虑等高级认知行为,这表明手工设计的启发式策略在超大模型面前变得多余。在七项数学基准测试中,该模型表现出极强的竞争力,并在推理链的可读性、可复现性和效率维度上展现出明显优势。
事件分析
💡 核心观点:万亿参数级Zero RL证实,海量算力投入能让模型无需人工数据即可涌现出元认知与复杂推理能力。
原文链接:Hacker News





