开发者开源本地 LLM 网关 Optaris：支持自动优选高性价比渠道与请求全链路调试

针对目前大模型 API 中转服务良莠不齐、稳定性差以及价格波动大的痛点，一位重度用户开发了一款名为 Optaris 的本地 LLM 网关并已开源。该项目旨在解决现有工具（如 CC Switch）在路由策略和调试功能上的不足。Optaris 的核心优势在于其智能路由机制，不再采用简单的顺序轮询，而是能够综合考量价格、首 Token 响应时间以及 Token 生成速度等多维度数据，自动将请求调度至性价比最高的中转渠道。此外，该工具特别强化了调试能力，允许用户查看完整的请求与响应细节，这有助于快速排查是模型自身“幻觉”还是中转站网络问题导致的服务异常。目前，Optaris 已在 GitHub 发布，支持 macOS、Windows 和 Linux 平台，为开发者和高频用户提供了一个稳定、可控且具备成本优化能力的本地 AI 请求入口。

事件分析

💡 核心观点：LLM 基础设施正从单纯的请求转发向精细化运营演进，具备智能路由与深度可观测性的本地网关是提升 AI 应用性价比与稳定性的关键。