作者Drew Breunig在AGNTCon大会上发表题为《上下文失败与修复》的演讲,系统梳理了上下文工程的发展脉络。2024年底,模型厂商曾寄望于超大上下文窗口解决一切问题,从Gemini 1.5的百万token到Llama 4 Scout宣称的千万token,但实践证明长上下文并非万能。作者归纳出四种核心失败模式:上下文污染(错误信息进入上下文并持续影响输出)、上下文干扰(过长上下文削弱模型对基础能力的调用)、上下文混淆(无关信息干扰推理)、上下文冲突(工具调用间相互矛盾)。Gemini 2.5在玩宝可梦时曾因训练数据中的FireRed版本细节而执着寻找’茶’,成为污染的典型案例。针对这些问题,业界已形成六类修复工具:上下文增强、工具装载、上下文隔离、上下文修剪、上下文卸载与摘要压缩,且已逐步集成进harness层。2026年,行业重心转向能自主管理上下文的智能体模型,GPT-5可连续执行约3.4小时任务,Gemini 3.1达6.4小时,Opus 4.6约12小时。由此催生两类新失败模式:’对抗权重’(模型过拟合训练环境的工具习惯)与’上下文惯性’(模型执着于既有方案不知放弃)。微软Fork-and-Flush研究与伯克利团队均验证了定期清空上下文、保留环境产物的有效性。作者预测2027年的核心挑战将是个人智能体长期运行中的记忆累积与冲突,战略性遗忘将成为新的研究方向。
事件分析
该演讲揭示了AI工程重心从’模型选择’向’harness构建’的迁移。技术层面,上下文工程已从个人提示词技巧演变为系统工程学科:六大修复模式已被DSPy、Claude Code等框架产品化,’决策小模型+大模型’的分层架构正成为harness的常见形态。产业层面,’对抗权重’现象值得模型厂商警惕,训练环境中的工具习惯会外溢为泛化缺陷,迫使Anthropic在Claude Code系统提示词中重复七次要求并行调用,暴露出模型能力与工程需求间的错位。’上下文惯性’的解决方案(定期清空、保留产物)与伯克利’遗忘带来性能跃升’的结论,共同指向记忆管理与遗忘机制标准化的需求。后续可关注三个方向:一是个人智能体长期运行中技能文件腐化的治理;二是模型厂商是否将harness交互与工具泛化能力纳入训练目标;三是上下文管理工具链是否会催生独立的基础设施赛道。
核心观点:模型越强大,越需要确定性代码来驾驭;Agent的下一个瓶颈不在更聪明,而在学会遗忘与放手。
原文链接:Hacker News