Orthrus-Qwen3 是一种基于 Qwen3 的创新双架构框架，通过将自回归 LLM 的精确生成能力与扩散模型的高速并行解码相结合，实现了高达 7.8 倍的推理速度提升。该方法采用原生共享 KV Cache 机制，保证了零冗余内存开销，并确保输出结果与原模型完全一致（无损）。相比传统的投机解码（如 EAGLE-3）及其他扩散模型，Orthrus 在吞吐量和准确性上均表现出显著优势，目前已在 GitHub 开源，并即将支持 vLLM 和 SGLang。 💡 核心观点：这项技术打破了 LLM 顺序解码的物理瓶颈，在不牺牲模型精度的前提下实现了数量级的效率跃升，为高性能 AI 推理架构树立了新标杆。
