DeepSeek宣布将内部推理框架DeepInfer全面开源，这是继开源一系列大模型、TileLang编译工具及推理算子库之后的又一重要动作。推理框架位于模型与用户服务之间，负责统筹调度算力集群以应对海量调用请求，其效率直接决定AI服务的算力成本与电力消耗。DeepInfer集成了高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，并兼容英伟达与华为昇腾两大硬件平台。DeepSeek同时开源了deepseek-recipe编解码组件，该生产级组件与官方API处理逻辑完整对齐，确保社区获得与官方部署一致的API体验。目前，DeepSeek已基于DeepInfer实现DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务，未来新模型的推理代码及后续优化也将在此持续更新。DeepSeek表示，希望通过分享内部部署经验，帮助开发者与企业组织优化大规模推理的吞吐与延迟，高效构建私有化及公有云部署，降低算力成本、减少能源消耗，让智能以更低价格触达更广泛人群，实现大模型普惠。
事件分析
DeepInfer的开源补齐了DeepSeek从模型权重到基础设施的完整开源拼图。技术层面，推测解码与SWA Bounded Replay等特性显示其在长上下文高并发场景的针对性优化，编解码组件与官方API对齐则显著降低了社区复现生产级部署的门槛。产业层面，原生兼容华为昇腾平台尤其值得关注，意味着该框架可作为横跨英伟达与国产算力的统一推理层，对国产AI算力软件生态的适配具有标杆意义。后续该框架将与vLLM、SGLang等主流开源推理引擎形成直接竞争，其社区活跃度、昇腾平台上的实际性能数据，以及是否被云厂商大规模采纳，将成为观察国产算力软件栈成熟度与推理成本曲线走向的关键指标。
核心观点：推理框架开源将成本竞争从模型层下沉到基础设施层，昇腾兼容背后是算力自主的深层布局。
原文链接：Linux.do
