RampLabs

RampLabs发布多智能体记忆共享新方案：Token消耗直降65%，推理提速20倍

AI基础设施公司RampLabs发布了名为「Latent Briefing」的研究成果，旨在解决多智能体系统中上下文传输导致的Token膨胀问题。该方法通过直接压缩大模型的KV缓存，利用注意力机制在表示层识别并丢弃冗余信息，而非依赖传统的摘...