API 调用成本为何暴涨？PI 调用 DeepSeek 与中转站模型缓存失效之谜

近期在开发者社区 Linux.do 上，关于 AI 模型 API 调用的成本控制问题引发了讨论。一位开发者反馈，在使用名为 “PI” 的工具对接 DeepSeek 以及通过中转站调用 GPT 系列模型时，遭遇了缓存机制失效的情况。具体而言，该开发者观察到，在调用 DeepSeek 模型时缓存效果尚不明显，但在调用中转站的 GPT 模型（文中提及的 5.5/5.6 可能为笔误或特定版本）时，后台数据显示完全没有产生缓存命中。由于大型语言模型（LLM）的 API 计费机制中，通常会对重复的 Prompt 输入提供缓存计费优惠，缓存的缺失直接导致了 Token 消耗量和费用支出的大幅上涨。针对这一异常现象，社区讨论指出，这可能与 API 请求中的 User-Agent 字段配置有关。如果在请求头中未正确传递或未包含特定的标识信息，中转服务提供商可能无法识别请求的来源，进而导致缓存策略无法生效。这一案例揭示了在通过中转站或第三方工具接入大模型时，开发者需要关注请求参数的标准化配置，以确保能够利用缓存机制降低运营成本。

事件分析

💡 核心观点：AI应用成本控制不仅依赖模型选择，更受限于客户端协议兼容性，缓存失效往往是隐形利润杀手。