大模型微调实战资源发布:涵盖DeepSpeed、LoRA及RLHF全流程技术解析
本资源提供了一套系统的大模型微调实战课程,内容涵盖大模型基础、指令微调、模型对齐及垂直领域应用五个阶段。课程深入解析了LoRA、QLoRA参数微调、DeepSpeed与Megatron-LM训练框架、Flash Attention加速技术以...
标签索引
这个标签下有 1 篇文章。按时间回看相关判断与实践记录。
标签精选
本资源提供了一套系统的大模型微调实战课程,内容涵盖大模型基础、指令微调、模型对齐及垂直领域应用五个阶段。课程深入解析了LoRA、QLoRA参数微调、DeepSpeed与Megatron-LM训练框架、Flash Attention加速技术以...