LLM Agent 的隐形账单：缓存机制如何导致成本呈“二次方”激增

本文深入剖析了 LLM Agent 在长周期任务中面临的严峻成本挑战。随着对话上下文的累积，缓存读取费用呈现可怕的“二次方”增长，往往在超过 2 万 Token 时便占据总成本的主导地位。实测数据显示，部分长对话中 87% 的成本源于缓存历史记录。文章警示，单纯的上下文延续极其昂贵，开发者需通过重构对话流程、合并工具调用或重置上下文来打破这一成本陷阱，否则 Agent 的商业落地将受制于算力账单。