一位开发者分享了使用 OpenCode Go 套餐(该套餐提供 DeepSeek V4 Flash 等模型)并通过 CPA(一种缓存代理服务)中转 API 兼容 Anthropic 接口的优化方案。测试数据显示,通过 CPA 中转缓存优化,缓存命中率从原本的 70%-80% 飙升至 99.3%。在平均单次调用上下文约 9 万 Tokens 的高负载下,API 额度消耗大幅降低。根据推算,该方案下 5 小时用量极限可达约 28 亿 Tokens,折合单价约 0.24 元/亿 Tokens。这一方案展示了通过中间件优化缓存策略,显著降低大模型调用成本和延迟的可行性。
事件分析
💡 核心观点:API中转层的高效缓存策略正成为大模型降本增效的关键,99%的命中率意味着“无限续杯”式的低成本开发已成可能。
原文链接:Linux.do





