硬核实战:Intel XPU 成功跑通 Qwen 3.5/Gemma 4,详解 MoE 模型算子开发
本文分享了在 Intel Arc XPU 上运行 Qwen 3.5、Gemma 4 等 AI 模型的实战经验,重点攻克了 MoE(混合专家)模型的推理乱码难题。面对大模型显存不足的挑战,作者通过自定义 SYCL 算子实现了 CPU-XPU ...
标签索引
这个标签下有 1 篇文章。按时间回看相关判断与实践记录。
标签精选
本文分享了在 Intel Arc XPU 上运行 Qwen 3.5、Gemma 4 等 AI 模型的实战经验,重点攻克了 MoE(混合专家)模型的推理乱码难题。面对大模型显存不足的挑战,作者通过自定义 SYCL 算子实现了 CPU-XPU ...