硬核实战：Intel XPU 成功跑通 Qwen 3.5/Gemma 4，详解 MoE 模型算子开发

本文分享了在 Intel Arc XPU 上运行 Qwen 3.5、Gemma 4 等 AI 模型的实战经验，重点攻克了 MoE（混合专家）模型的推理乱码难题。面对大模型显存不足的挑战，作者通过自定义 SYCL 算子实现了 CPU-XPU 混合推理，将专家层置于内存中按需调用。文章深入剖析了从底层 kernel 编写、PyTorch 接口桥接到动态编译构建的全流程技术细节，强调了异构计算中数据搬运、精度转换及维度校验对推理稳定性的关键影响，为开发者利用非 NVIDIA 硬件进行 AI 部署提供了极具价值的参考方案。