AI编程 · 架构思考 · 技术人生

Sherlock:可视化的LLM API流量代理,实时监控Token消耗

智谱 GLM,支持多语言、多任务推理。从写作到代码生成,从搜索到知识问答,AI 生产力的中国解法。

Sherlock 是一款透明的代理工具,能拦截发往 LLM API 的 HTTPS 流量。它通过精美的终端仪表盘,实时展示 Token 使用量、上下文窗口占用及 API 成本。该工具支持自动将提示词保存为 Markdown 和 JSON 格式,便于开发者调试和审计。最重要的是,Sherlock 无需修改任何代码,仅需配置环境变量即可运行,完美适配 Claude 等主流工具,有效解决了 AI 开发中的流量黑盒与成本监控难题。

原文链接:Hacker News

赞(0)
未经允许不得转载:Toy's Tech Notes » Sherlock:可视化的LLM API流量代理,实时监控Token消耗
免费、开放、可编程的智能路由方案,让你的服务随时随地在线。

评论 抢沙发

十年稳如初 — LocVPS,用时间证明实力

10+ 年老牌云主机服务商,全球机房覆盖,性能稳定、价格厚道。

老品牌,更懂稳定的价值你的第一台云服务器,从 LocVPS 开始