文章深入探讨了在AI Agent开发中采用“代码模式”相对于传统工具调用的巨大成本优势。作者以自家系统的生产环境数据为例,对比了使用26次连续工具调用与使用单一沙箱脚本的性能差异。在测试案例中,原本需要Agent逐一调用26个API接口(如检查工作流列表、调度状态及运行记录)的操作,被封装进一个名为“workflow-triage”的独立脚本中执行。该脚本在沙箱环境中处理了约326万字符的原始JSON数据,仅将最终提炼出的约2.6万字符摘要结果返回给模型。实测数据显示,这种模式下输入模型的Token数量从约81.5万降至6450个,成本从2.44美元降至0.02美元,降幅高达99.2%,且耗时大幅缩短。这一结果验证了Anthropic此前关于MCP协议及代码执行的论断:通过将繁重的数据处理逻辑从大模型的上下文窗口剥离,转由传统代码在本地执行,能够极大地降低Token消耗并提升响应速度。
事件分析
💡 核心观点:将逻辑下沉至代码执行层、仅向模型回传决策数据,是打破AI算力成本瓶颈的必经之路。
原文链接:Hacker News





