Mac mini M4 本地部署实测：Qwen3.5 借助 oMLX 并发提速最高 2.77 倍

一项针对 Mac mini M4 的基准测试显示，利用优化工具 oMLX 部署 Qwen 3.5 大模型，其并发推理性能获得了显著提升。在 Qwen 3.5-9B 模型的测试中，通过启用连续批处理技术，系统在处理 8 个并发请求时实现了最高 2.77 倍的吞吐量加速，即便是不同提示词的场景也能达到 2.77 倍的效率提升。测试数据表明，通过软件栈层面的针对性优化，边缘侧设备完全能够突破单请求性能瓶颈，高效处理多并发本地 AI 任务。