突破性AI架构“三元Bonsai”：仅用1.58比特维持顶尖智能水平

本文介绍了一种名为“三元Bonsai”（Ternary Bonsai）的新型AI计算架构，旨在解决大语言模型（LLM）在资源受限环境下的部署难题。该技术突破了传统二进制的限制，利用三进制逻辑（-1, 0, 1）将模型权重的精度压缩至理论极限的1.58比特。实验表明，与现有的1比特或更低精度模型相比，这种方法在大幅降低内存占用和计算能耗的同时，能够更完整地保留模型的推理能力与“智能”水平。这一创新有望推动高性能AI模型在手机、汽车等边缘设备上的低成本、低延迟普及。