跳到主要内容
赞助推荐 Claude Team 合租,少折腾账号
>80aj_
前沿哨所

Perplexity新技术:1.3秒完成万亿参数模型权重同步

1 分钟阅读阅读(178)
赞助推荐 团队协作里的 AI 办公工作台

Perplexity发布技术突破,将万亿参数模型(Kimi-K2)的强化学习微调权重同步时间缩短至1.3秒。通过利用RDMA点对点通信技术,该方案实现了从256张训练GPU到128张推理GPU的零拷贝传输。相比传统数分钟级的同步耗时,新方法采用静态调度与流水线设计,无需侵入修改推理引擎,有效解决了异步RL训练中的数据传输瓶颈,显著提升了大规模模型训练与推理的协同效率。

原文链接:Hacker News

赞助推荐 一人公司 · 创业装备库
赞助推荐 一人公司 · 创业装备库
赞助推荐 一键部署 AI 大模型
赞助推荐 一键部署 AI 大模型
赞(0)
未经允许不得转载:80aj » Perplexity新技术:1.3秒完成万亿参数模型权重同步
赞助推荐 低成本上手 Claude Code 的中转选择
赞助推荐 低成本上手 Claude Code 的中转选择
赞助推荐 一键部署 AI 大模型
赞助推荐 一键部署 AI 大模型