AI模型突破：224倍压缩Llama-70B，精度提升

研究人员开发了一种创新方法，通过低秩’意义场’技术替换完整Transformer推理，将冻结的Llama-3.3-70B模型压缩224倍，同时实现256维场表示，并在多个基准测试上略微提高准确性。该方法引入小型学生模型直接从文本生成意义场，移除了Transformer推理路径，显著提升计算效率。论文和代码已在Zenodo平台发布，GitHub提供参考实现，作者独立工作并寻求技术反馈。这一突破为AI模型部署提供新思路，有望降低硬件需求和能耗，推动前沿技术发展。