标签索引

模型压缩

这个标签下有 8 篇文章。按时间回看相关判断与实践记录。

标签精选

突破性AI架构“三元Bonsai”：仅用1.58比特维持顶尖智能水平

本文介绍了一种名为“三元Bonsai”（Ternary Bonsai）的新型AI计算架构，旨在解决大语言模型（LLM）在资源受限环境下的部署难题。该技术突破了传统二进制的限制，利用三进制逻辑（-1, 0, 1）将模型权重的精度压缩至理论极限...

2026-04-211 分钟阅读144 阅读

欧洲AI初创公司Pruna.ai发布了一款开源模型压缩工具，旨在解决AI绘画模型体积庞大、运行缓慢的痛点。实测表明，经其压缩的模型可在亚秒级时间内生成图像，输出WebP格式文件大小仅为36KB，却拥有1.5K画面的质感与细节。该技术不仅显著...

2026-04-051 分钟阅读115 阅读

一个名为SALOMI的研究库在GitHub上发布，专注于Transformer模型的极端低位量化技术。研究者 Edward9055 强调，该项目的核心价值并非简单验证“1-bit量化可行”，而是揭示了一个关键陷阱：基于相关性的重构指标可能看...

2026-04-021 分钟阅读126 阅读

谷歌Research推出名为“TurboQuant”的新型AI压缩技术，旨在通过极致的算法优化解决大模型部署的算力瓶颈。该技术能够在保持模型高精度的同时，显著降低模型体积与内存占用，从而大幅提升推理速度并降低能耗。TurboQuant不仅有...

2026-03-251 分钟阅读183 阅读

Stanford 大学 Jurafsky 和 Manning 团队发布新论文，提出用“Tversky 投射层”替代神经网络中传统的 Linear 层。研究指出，现有深度学习基于几何相似度的对称性假设不符合人类认知的“不对称性”。该团队将心理...

2026-02-041 分钟阅读126 阅读

作者为解决中文声调学习难题，基于Conformer和CTC技术训练了一款小型语音模型。通过数据优化与架构调整，模型参数从7500万压缩至900万，量化后仅11MB，可在浏览器端流畅运行，验证了边缘AI在特定教育场景下的高性价比与实用性。原...

2026-01-311 分钟阅读149 阅读

该研究由Jonathan Frankle和Michael Carbin提出’彩票假说’，揭示了一个重要发现：通过标准剪枝技术可以从随机初始化的密集神经网络中提取出稀疏子网络（’中奖彩票’）。这...

2026-01-061 分钟阅读222 阅读

研究人员开发了一种创新方法，通过低秩’意义场’技术替换完整Transformer推理，将冻结的Llama-3.3-70B模型压缩224倍，同时实现256维场表示，并在多个基准测试上略微提高准确性。该方法引入小型学生模...

2025-12-101 分钟阅读201 阅读