大模型推理实测：华为云2核2G服务器TTFT延迟超10秒引热议
近日，技术社区关于大模型（LLM）推理性能的讨论引发关注。有用户反馈，在配置为2核2G的华为云新加坡节点服务器上运行模型时，首字生成时间（TTFT）长达10至20秒，远低于流畅交互所需的标准。TTFT是衡量大模型响应速度的核心指标，通常低延...
标签索引
华为云
这个标签下有 7 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
华为云码道公测：接入 DeepSeek 与 GLM-5.0，打造全场景 AI 编码助手
华为云正式推出 CodeArts 代码智能体（码道）公测版，这是一款集成了代码大模型、IDE 及自主开发模式的智能编程工具。产品覆盖了代码生成、研发问答、测试用例生成、代码库索引及规范驱动开发等核心 AI 编码技术。其最大亮点在于开放的模型...
华为云上线GLM5大模型，CodeArts正式支持Mac端：昇腾生态持续扩容
华为云宣布正式上线GLM5大模型，进一步丰富了其“百模千态”生态。该服务依托CloudMatrix 384架构与昇腾算力底座，旨在为企业提供超高并发与灵活的AI算力支持。同时，华为云智能编程工具CodeArts迎来重要更新，不仅集成了GLM...
华为云CodeArts代码智能体全面接入GLM-5，编程能力升级
华为云旗下的CodeArts代码智能体宣布全面接入智谱AI的GLM-5大模型。此次升级意味着开发者在进行代码编写、补全及优化时，将体验到由GLM-5提供的更强语义理解与生成能力。作为国产云服务巨头与领先大模型厂商的联动，此举不仅提升了华为云...
开发者怒喷华为云C++ SDK：基础代码频现低级错误，文档完全失效
近日，华为云C++ SDK在GitHub上引发开发者强烈不满。有开发者提交Issue严厉指出，该SDK质量极差，不仅文档严重过时且无法参考，示例代码也无法运行。更致命的是，基础代码中存在大量低级错误，如不安全的指针操作、用整型代替布尔值等，...
华为云CodeArts接入GLM4.7与DeepSeek，试用期内无限免费
华为云CodeArts代码智能体宣布全新升级，正式接入GLM4.7与DeepSeek V3.2两大前沿大模型，旨在显著提升智能编码辅助能力。活动期间，华为云面向开发者推出了极具吸引力的优惠政策，允许用户在试用期内无限量、免费调用上述两款模型...
华为云试用福利开放：无限畅用DeepSeek与GLM大模型
据社区反馈，华为云CodeArts在试用期间开放了GLM4.7与DeepSeek V3.2大模型的无限使用权限。用户需注册华为云账号并完成实名认证，开通时建议关闭自动续费。实测体验与roo-code相似，开发者热议其是否支持第三方API调用...