近日,有开发者在技术社区反馈,其使用的 AI 编程辅助工具 Codex 出现严重的间歇性卡死现象,导致开发效率大幅下降。据该开发者描述,故障表现为极高概率的首 Token 生成延迟,甚至彻底无响应,持续时间超过十分钟。通过运维监控面板观察,系统频繁出现上游网关 502 Bad Gateway 错误以及少量 503 服务不可用错误。日志分析进一步揭示,连接在流式传输过程中经常陷入空闲状态,超过 10 分钟后才因超时而强制关闭重试。
起初,开发者尝试通过编写脚本每分钟检测一次并触发重试机制来缓解,但属于无奈之举。随后,尝试将 sub2api(一种 API 转换代理服务)强制降级使用 HTTP/1.1 协议,仍未解决问题。经过多轮排查,排除了 IP 被封或网络不稳定的因素,因为在服务器端直接使用命令行工具 codex-cli 测试连接顺畅。关键线索在于,codex-cli 默认发起的是 WebSocket 请求,而客户端并未针对此进行适配。最终,解决方案确认为在客户端配置文件中显式启用 WebSocket 支持。在 `[model_providers.OpenAI]` 配置段中设置 `supports_websockets = true`,并开启 `[features]` 下的 `responses_websockets_v2 = true` 后,故障立即消失,困扰多日的卡死问题彻底解决,服务可用性(SLA)逐渐恢复正常。
事件分析
💡 核心观点:在 AI 流式传输场景下,WebSocket 协议相比传统 HTTP 能显著降低代理层延迟,是解决大模型应用高并发卡死的关键配置。
原文链接:Linux.do





