本次评测针对13款热门本地部署模型(包括Gemma 4、Qwen 3.6及其衍生的MTP、Neo-Code等版本)进行了严格的量化测试。测试环境基于i9-13900K与RTX 4090的高端消费级硬件,统一采用Q4_K_M量化版本,覆盖GSM8K数学推理、BBH复杂逻辑、HumanEval+与MBPP+代码生成等核心数据集。测试结果显示,谷歌的Gemma-4-31B-IT-Uncensored以0.9750的总分断层第一,实现了逻辑与代码的双重满分。阿里系的Qwen3.6家族表现亮眼,其中新引入MTP(投机解码)技术的Qwen3.6-27B-MTP版本首测即并列第三,代码能力达到满分,响应速度相比原生版大幅提升44%,成为本次评测的“黑马”。此外,SuperGemma4-26B-Uncensored以4.9秒的平均响应时延证明了其极致速度优势。本次报告不仅揭晓了综合性能之王,更深入剖析了不同模型变体在“速度-精度”平衡上的技术取舍,为开发者本地部署提供了详实的数据参考。
事件分析
💡 核心观点:本地模型竞争已进入架构精细调优期,投机解码等技术正成为提升算力效率的关键突破口。
原文链接:Linux.do







AI周刊:大模型、智能体与产业动态追踪