Perplexity新技术：1.3秒完成万亿参数模型权重同步
Perplexity发布技术突破，将万亿参数模型（Kimi-K2）的强化学习微调权重同步时间缩短至1.3秒。通过利用RDMA点对点通信技术，该方案实现了从256张训练GPU到128张推理GPU的零拷贝传输。相比传统数分钟级的同步耗时，新方法...
标签索引
权重同步
这个标签下有 1 篇文章。按时间回看相关判断与实践记录。
标签精选
标签索引
这个标签下有 1 篇文章。按时间回看相关判断与实践记录。
标签精选
Perplexity发布技术突破，将万亿参数模型（Kimi-K2）的强化学习微调权重同步时间缩短至1.3秒。通过利用RDMA点对点通信技术，该方案实现了从256张训练GPU到128张推理GPU的零拷贝传输。相比传统数分钟级的同步耗时，新方法...