31B音视频扩散模型压缩至14B：6步生成、INT8量化

一支开发团队在Hacker News发布Show HN项目，宣布将一个310亿参数的音视频联合扩散模型压缩至140亿参数，同时将推理步数降至6步，并采用INT8整数精度部署。这是在模型体积、采样步数与数值精度三个维度同时优化的综合成果。扩散模型通常需要数十步迭代采样才能生成高质量内容，步数直接决定生成延迟与算力消耗；将步数压缩至6步，一般需借助步数蒸馏或一致性采样等技术实现加速。INT8量化则将模型权重从常见的16位浮点压缩为8位整数，可大幅降低显存占用、提升推理吞吐，尤其有利于在边缘设备和消费级显卡上部署。音视频联合生成模型对算力的需求远高于纯文本或纯图像模型，动辄数百GB显存的需求使其长期只能依赖云端大规模集群运行。此次参数减半、步数锐减、精度降低三者叠加，推理成本有望下降一个数量级，为大规模多模态生成模型走向本地化、实时化部署提供了可行路径。该帖发布后引发社区对模型压缩技术路线与实际生成质量保留程度的讨论。

事件分析

该工作的核心看点在于同时在三个正交维度做压缩：参数规模减半、采样步数从常规数十步降至6步、数值精度从FP16降至INT8，三者叠加的工程复杂度远高于单一维度优化，需要蒸馏、剪枝与量化感知训练等多种技术协同。音视频联合建模通常依赖庞大的DiT骨干网络与跨模态对齐模块，是当前算力消耗最高的生成任务之一，此类模型若能在消费级硬件上接近实时运行，将直接改变视频生成服务的成本结构。产业层面，步数蒸馏与量化部署正从大语言模型领域向多模态生成迁移，6步生成的低延迟特性可能催生交互式视频创作、虚拟主播实时驱动等新场景。后续值得关注的验证点包括：压缩后音画质量与一致性的保留程度、是否开源权重与推理代码、以及在主流消费级显卡上的实测吞吐与显存数据。

核心观点：多模态生成的竞争正从拼参数转向拼效率，谁能把大模型塞进消费级硬件，谁就握住规模化落地的钥匙。