Qwen3-Next新架构发布:混合注意力+超稀疏MoE,推理提速10倍
Qwen团队即将发布下一代模型Qwen3-Next,采用创新的混合注意力架构和高达1:50的高稀疏MoE技术。首款模型Qwen3-Next-80B-A3B虽总参数800亿,但仅激活30亿,性能超越Qwen3-32B且训练成本不到十分之一。得...
标签索引
这个标签下有 1 篇文章。按时间回看相关判断与实践记录。
标签精选
Qwen团队即将发布下一代模型Qwen3-Next,采用创新的混合注意力架构和高达1:50的高稀疏MoE技术。首款模型Qwen3-Next-80B-A3B虽总参数800亿,但仅激活30亿,性能超越Qwen3-32B且训练成本不到十分之一。得...