一位开发者在使用第三方 API 中转服务 OpenCode Go 时遇到了意料之外的成本问题。该开发者原本计划通过 OpenCode Go 调用 Claude v4p 模型，利用其约为官方密钥三分之一的价格优势来降低开支。在具体应用场景中，用户通过 OpenCode Go 的自定义连接（oc go cc）将 Claude Code 这一 AI 编程助手接入开发环境。然而，在实际使用过程中，系统频繁出现缓存丢失的情况。在 AI 编程场景中，模型对项目上下文的高度依赖使得缓存机制成为控制长 Token 消耗的关键。由于缓存命中率被打至 90% 以下，大量本应免单或低价的重复上下文请求被重新计费，导致实际综合花费超过了直接使用官方 API Key 的价格。
事件分析
该事件揭示了第三方大模型 API 中转服务在处理复杂协议层面存在的技术隐患。Prompt Caching（提示词缓存）是目前降低长文本 LLM 使用成本的核心技术，尤其是在 Claude Code 等需要频繁读取大量代码库的场景中，缓存机制直接决定了 Token 的消耗量。OpenCode Go 此类服务虽然提供了极具竞争力的基础费率，但在维持缓存连接稳定性、正确处理缓存标头等中间层技术上可能存在实现缺陷。这种“掉缓存”现象本质上是代理层未能完全复刻官方 API 的状态保持能力。这警示技术社区，在选择 LLM 供应商时，不能仅看单次请求的硬性折扣，还需考量其对高级功能（如缓存、流式传输）的支持质量，否则低价策略可能会因技术损耗而失效。
💡 核心观点：第三方 AI 中转服务的低价优势严重依赖于完善的缓存实现，一旦中间层技术实现出现瑕疵，极易造成使用成本不降反升的“省钱陷阱”。
原文链接：Linux.do
AI周刊：大模型、智能体与产业动态追踪
程序员数学扫盲课
冲浪推荐：AI工具与技术精选导航