DeepSeek开源Engram：引入稀疏性新轴，重塑大模型记忆架构

DeepSeek在GitHub发布了名为Engram的新项目，提出了一种“通过可扩展查找的条件记忆”技术方案。该项目通过引入“稀疏性的新轴”，旨在解决大语言模型在处理长上下文时的记忆瓶颈。Engram利用条件记忆机制，在不显著增加推理成本的前提下，大幅提升了模型检索和记忆关键信息的能力。这一创新为大模型架构优化提供了新思路，有望推动更高效、更低成本的AI应用落地，对行业具有极高的参考价值。