近日,在开发者社区 Linux.do 上,有用户反馈 OpenCode Go(一款基于 VS Code 的 AI 编程插件)在使用 DeepSeek 相关模型时遭遇严重的缓存性能问题。据用户描述,该工具的缓存命中率近期大幅波动,表现为在连续请求几条后突然出现“全 miss”或命中率极低的情况,导致 API 配额在短短 20 分钟内耗尽,正常缓存计数仅能维持在 60 至 80 左右。该用户在 GitHub 的 anomalyco/opencode 仓库提交了 Issue(#42935),标题指出“DeepSeek V4 Flash 缓存读取突然降至 0”,导致 OpenCode Go 配额迅速耗尽。这一现象引发了社区内关于是否应继续使用 OCGO 的讨论,部分开发者表示若问题无法解决将不得不弃用。目前来看,该问题可能与 DeepSeek 近期访问量激增导致的服务端缓存策略不稳定有关。
事件分析
此次事件实质上反映了 AI 应用层爆发式增长对底层基础设施稳定性的巨大冲击。DeepSeek 凭借其高性价比模型近期流量激增,但激增的并发请求量可能已触及其 API 网关或 KV 缓存服务的性能瓶颈,导致缓存失效或命中率异常波动。对于 OpenCode Go 这类重度依赖上下文缓存的 AI 编程工具而言,缓存是降低推理成本、提升响应速度的关键。缓存层的崩溃直接导致开发者体验下降及配额浪费,暴露了当前 AI 生态链中上游模型服务商与下游应用工具之间的紧耦合风险。若 DeepSeek 无法在高负载下保障服务的稳定性,可能会促使开发者工具向多模型聚合或多路由分发架构演进,以规避单一供应商的服务抖动风险。
核心观点:DeepSeek 流量洪峰压垮缓存层,暴露出 AI 编程工具在基础设施韧性上的短板。
原文链接:Linux.do