跳到主要内容
赞助推荐 搬瓦工怎么选:三网直连 CN2 GIA-E
赞助推荐 Claude Code 的低成本中转
赞助推荐 Claude Code 低成本中转

标签索引 / 第 16 页

大模型

这个标签下有 2417 篇文章。按时间回看相关判断与实践记录。

标签精选

相关内容

前沿哨所

AI开发实战教训:压缩上下文为何导致缓存失效与费用激增

一位开发者在自建AI API中转站时发现,为了节省Token成本而频繁使用的“上下文压缩”功能,反而导致部分请求费用暴涨约10倍。通过后台日志分析,确认压缩操作改变了请求指令的特征,导致后续请求无法命中缓存。这一案例揭示了LLM应用优化中的...

1 分钟阅读122 阅读