一位开发者在技术社区 Linux.do 发帖，详细记录了关于 xAI Grok 模型在通过 CPA 反代环境下无法启用 Prompt Caching（提示词缓存）功能的实测过程。该开发者在测试环境中使用了 `grok-4.5` 模型，并通过 CPA（一种常用的 API 代理中转工具）进行直连。为了排除“账号池切换”导致缓存失效的可能性，开发者特意通过日志确认了多次请求均固定到了同一个 xAI OAuth 账号。测试涵盖了三种主流协议接口：xAI 原生的 `/v1/responses`、兼容 OpenAI 格式的 `/v1/chat/completions` 以及兼容 Claude 格式的 `/v1/messages`。在所有测试场景中，尽管两次请求使用了完全相同的 Prompt 且生成了相同的 `prompt_cache_key`，但 API 返回的 `cached_tokens` 数值始终为 0，甚至在部分协议中缺失了 `cache_read_input_tokens` 等关键缓存字段。发帖者目前尚未明确问题根源，正在向社区寻求帮助，以确认这是否源于 xAI 免费账号池本身不支持或不回传缓存信息，亦或是 CPA 反代程序在处理 Grok 特有的缓存字段、会话标识或请求格式时存在配置缺陷。
事件分析
此事件聚焦于大模型 API 应用中极具性价比的 Prompt Caching 技术与第三方代理中间件之间的兼容性问题。Prompt Caching 是降低长文本重复处理成本、减少延迟的关键机制，尤其在 Grok-4.5 等支持长上下文的模型中至关重要。测试中出现的“缓存失效”现象，极有可能揭示了两个潜在的技术瓶颈：其一，上游 API 提供商（如 xAI）可能对免费 OAuth 账号限制了缓存写入权限，导致请求虽然命中但返回计费状态为未缓存；其二，反代中间件（CPA）在协议转换过程中可能未能完整透传 `cache_control` 指令或错误处理了缓存键值。对于依赖非官方 API 渠道或账号池进行 AI 开发的技术人员而言，这一排查过程凸显了在复杂代理链路中验证高级功能可用性的必要性，同时也暴露了当前 AI 中转生态对特定模型特性适配的滞后性。
💡 核心观点：Prompt 缓存机制在 Free 账号与反代中间件的传输链路中存在兼容性黑盒，开发者需警惕隐性成本与功能缺失。
原文链接：Linux.do
Codex CLI 深度
AI 模型横评
AI Agent 框架
Claude Code 订阅生存指南