一位使用 Newapi 自用模式的开发者提出,面对硅基流动、OpenRouter 等众多第三方渠道及海量模型,手动维护模型重定向过于繁琐。他希望实现将不同渠道中的特定模型(如 DeepSeek、GPT、Gemini)聚合为一个统一名称(如 translate),并根据权重进行负载均衡。目前 Newapi 的模型管理页面似乎不支持此功能。该用户询问官方是否有相关开发计划,或是否有其他开源工具支持此类一对多聚合及负载均衡功能,以解决多模型管理难题。
Newapi 如何实现多模型聚合与负载均衡?开发者寻求高效方案
未经允许不得转载:80aj » Newapi 如何实现多模型聚合与负载均衡?开发者寻求高效方案
相关推荐
开源梵高油画风格AI短片生成器:一句话让故事变成会动的油画电影
开源追番工具 Kaloscope 更新:适配 NAS 迅雷与 OpenList,AI 开发 TV 客户端上线
AI 驱动 SSH 终端 Termind 登陆 iOS:内置 Agent 助手与 MCP 服务器
开源工具 CC-Monitor:完整记录 Claude Code 的每一步操作
AI Agent 做 TDD 有没有用: 实测排名与 3 倍 token 成本
Jason Liu 的 Codex 工作坊:别再把 Agent 当聊天框了
Vercel 把造 Agent 这件事,又走了一遍造网站的老路
Philipp Schmid 把 agent 代码搬进文件夹里