云聚 AI Token Plan 满 199 减 35 元
port:80 AI Junkie
AI 重度玩家的工程笔记本
DigitalOcean 开发者云

Vertex AI服务延迟异常:Gemini模型首Token输出超17秒

云聚 AI Token Plan 满 199 减 35 元

近日有开发者报告,在使用Google云平台Vertex AI服务调用Gemini-3-pro-preview模型时,发现流式输出出现严重延迟问题。从位于美国硅谷的基础设施发起的API调用显示,首Token延迟(TTFT)持续超过17秒,而正常情况下应低于2秒。开发者通过ping测试确认网络连接正常,排除了网络因素。测试使用Python代码调用API,请求生成200字的故事,响应时间依然超过17秒。这一问题直接影响开发者使用Google Gemini模型的体验,可能导致应用响应缓慢,影响用户体验。目前尚无明确解决方案,开发者可考虑暂时使用其他模型或调整应用策略以缓解此问题。

原文链接:V2EX 分享发现

阿里云 OPC 一人公司创业装备库
阿里云函数计算 一键部署 AI 大模型
赞(0)
未经允许不得转载:80aj » Vertex AI服务延迟异常:Gemini模型首Token输出超17秒
赞助推荐 FoxCode Claude Code 稳定中转
阿里云函数计算 一键部署 AI 大模型

GLM Claude Code · 国产平替不封号

官方 Claude Code 又涨价又要 KYC,封号还得重配环境?智谱 GLM 兼容 Claude Code,稳定不封号、价格友好,注册后把现有 Claude Code 工作流直接切过来继续用。

立即体验 GLM查看套餐价格