英伟达发布Nemotron 3.5 Lightning与NeMo Switchyard,打造高效低成本的AI智能体系统
NVIDIA发布了Nemotron 3.5 Lightning模型及NeMo Switchyard开源路由库,旨在解决AI智能体在高并发场景下的效率与成本问题。Nemotron 3.5 Lightning是一个300亿参数的混合专家(MoE)开源模型,专为长期运行的智能体工作负载设计,其输出速度较同类模型提升4倍,任务完成速度提升30...
核心观点英伟达通过智能路由与专用化模型重新定义AI基础设施,以“模型系统”架构打破智能体落地的高成本桎梏。
阅读全文