跳到主要内容
赞助推荐 Claude Team 合租,少折腾账号
>80aj_
前沿哨所

开源AI网关AxonHub升级v0.5.0,新增自适应负载均衡

1 分钟阅读阅读(245)
赞助推荐 团队协作里的 AI 办公工作台

AxonHub是一款现代开源AI网关系统,提供统一的OpenAI、Anthropic和AI SDK兼容API。此次v0.5.0版本更新重点引入自适应负载均衡功能,可综合渠道优先级、失败率、请求次数和连接数等因素动态计算优先级,并确保同一trace内尽量使用同一channel。此外,新增渠道性能指标实时展示、覆盖请求头支持、通过model查找对应渠道、渠道健康监测自动下线、批量编辑优先级UX优化等功能。这些改进显著提升AI服务效率和可靠性,适合开发者部署和优化AI应用。

原文链接:Linux.do

赞助推荐 一人公司 · 创业装备库
赞助推荐 一人公司 · 创业装备库
赞助推荐 一键部署 AI 大模型
赞助推荐 一键部署 AI 大模型
赞(0)
未经允许不得转载:80aj » 开源AI网关AxonHub升级v0.5.0,新增自适应负载均衡
赞助推荐 低成本上手 Claude Code 的中转选择
赞助推荐 低成本上手 Claude Code 的中转选择
赞助推荐 一键部署 AI 大模型
赞助推荐 一键部署 AI 大模型