腾讯混元Hy3实现极致压缩：2950亿参数模型单卡可跑

腾讯混元团队近日发布了旗下2950亿参数模型Hy3的1bit及4bit压缩版本，显著降低了超大规模模型的部署门槛。原版Hy3权重接近600GB，而全新的1bit版本体积缩减至85.5GiB，仅需一张96GB显存的英伟达H20显卡即可运行。尽管单卡运行需关闭部分加速功能并限制文本长度，但双卡部署可支持全速运行。4bit版本体积为169.9GiB，显存占用更高但在代码生成、工具调用、长文理解及Agent任务上表现更接近原始模型。性能方面，开启生成加速后，1bit版本速度提升约50%，4bit版本提升近60%。腾讯混元还推出了适合服务器部署的API版本，支持多用户并发调用，旨在通过极致量化技术推动大模型在更多场景下的落地应用。

事件分析

💡 核心观点：极致压缩技术打破算力壁垒，让千亿大模型真正实现“单卡可跑”，将加速大模型在边缘端的平民化落地。