谷歌发布Gemma 4多令牌预测技术，实现3倍推理加速且无损精度

谷歌宣布为其Gemma 4开源模型家族引入Multi-Token Prediction (MTP) 草稿器，通过一种名为投机解码的专用架构，在保持输出质量和推理逻辑完全一致的前提下，实现了高达3倍的速度提升。该技术通过让小型模型并行预测多个令牌，再由大型模型进行验证，有效解决了标准LLM推理中常见的显存带宽瓶颈。这一优化不仅降低了云端成本，更使得在消费级GPU和个人工作站上流畅运行30B级大模型成为可能，极大地推动了高性能本地AI应用的发展。