Agent 拿到写权限,管控方式还没跟上

“AI 工程师”这几年越来越不像一个职位,更像一种正在大规模验证中的共同经历——它横跨创始人、CTO、工程师和产品经理,资历不同,踩的坑却越来越像。Amplify Partners 的投资人 Barr Yaron 每年主持一次覆盖这个群体的问卷,今年第一次拉上 Notion 和 Vercel 联合发布,收到 1048 份回复。她在 AI Engineer World’s Fair 2026 收尾日的主舞台开场讲了这份问卷,最扎眼的一条结论是:agent 拿到写权限的速度,已经超过了企业管住它的办法。

原视频:https://www.youtube.com/watch?v=I2cbIws9j10(约 00:16:16 开始)

谁在填这张问卷

调查连续第三年看到同一个分布:资深工程师多,但对 AI 都是新手。10 年以上软件经验的人里,过半只有 3 年或更短的 AI 使用经验,像是老兵在学一件新武器。最新入行的那批工程师则相反,他们的 AI 经验中位数已经接近 10 年软件老兵的水平,这批人从没经历过没有 AI 的软件开发。

Barr 特意强调,”做 AI”现在覆盖的角色跨度很大,不止工程师,还包括产品经理、创始人和 CTO,这也是这份问卷值得每年重跑一次的原因。

选模型的标准变了,可靠性掉出前三

94% 的受访者在生产环境用闭源模型,45% 用开源权重模型。听起来像是开源在蚕食闭源的地盘,但用开源模型的人里,九成以上同时也在用闭源模型,团队在同时用两种模型,没有谁把谁挤下去。

更有意思的是选模型时真正看重什么。前三考虑因素里,质量排第一,工具调用这类 agentic 能力和成本紧咬在第二,而 Twitter 上吵得最凶的”开源还是闭源”只被 5% 的人列进前三。可靠性同样不在前列,只有五分之一的人提到它。Barr 的解读是,这不代表大家不在乎可靠性,而是可靠性早已变成一道及格线:模型本来就该够可靠,真正决定胜负的是质量、干活能力和账单。

这条对做模型选型评审的人是个提醒:如果评审会上还在争”哪个更可靠”,大概率已经吵错了重点,可靠性早该在候选名单进门之前就筛掉不合格的。

87% 的团队同时用不止一个模型,标准化的反面正在发生,最常见的做法是按任务类型路由。但过半团队又说组织正开始收敛 AI 工具的种类:整合发生在工具和平台这一层,不是模型这一层。

成本变成了硬约束

“无限智能”这句话说得好听,账单还是按用量算的。40% 的人说成本经常影响他们敢不敢放开用 AI,36% 说偶尔影响,合起来大约四分之三的团队在按成本调整用量。12 个月前,这还不是常态。

生产环境的监控清单里,成本和 token 用量排在第二位,仅次于质量本身,几乎被当成一条 SLA 盯着。一个团队如果现在还没把 token 成本纳入日常监控,算是在补一门同行早就修过的课。

主线:agent 写权限暴涨,管理方式还是老一套

95% 的受访者说自己在用 agent,比去年差不多翻了一倍,这个数字本身已经不算新闻。但真正的转折在权限上:去年,自称在用 agent 的团队里只有 52% 说这些 agent 能写数据;今年这个比例是 89%。两条曲线叠加起来,全体受访者里”用带写权限 agent”的占比比去年涨了三倍还多。Barr 用一句话概括这个变化:agent 不再只是读、总结、起草,它们在系统里真正采取行动。

那企业拿什么管这些真能动手的 agent?调查里排第一二位的手段是人工审批和权限门控——Barr 的原话是,这基本是”管一个实习生的那套工具箱”。再往下,任务拆解、检索、记忆、沙箱各有人用,结果很分散,说明还没有人真正解决 agent 的控制层问题。她特别提到记忆和持久上下文是自己在盯的一块,预计明年会有大变化。至于 agent 什么时候最让人挫败,三分之二的人指向幻觉或者任务中途丢上下文,用她的话说,问题通常出在思考这一步,不在执行的管道上。

这场分享是当天(官方 Day 4,收尾日)主舞台的第一场,20 分钟的开场,恰好是给整个 harness engineering 主题定调。Barr 呈现的这份调查更像一次诊断——agent 已经能真正写数据了,但控制它的手段还停在人工审批加权限开关这两件事上。当天后面几乎每一场,包括稍晚 Garry Tan、Mike Krieger 参与的对谈,都在往这道诊断开出的处方里添内容。

从做 agent 工具接入的经验看,人工审批和权限门控确实是最快能上线的两件事。但它们只解决”危险动作发生前拦一道”,不解决”agent 做错了,错在哪一层”——这正是三分之二人抱怨丢上下文和幻觉背后,还没被回答的部分。调查里没细说的是,”思考出了问题”具体靠什么定位:是靠 trace 回放,还是靠事后人工复盘。问卷本身没给答案,这恰好说明这块还是空的。如果你正在给 agent 发写权限,值得先问自己一句:现在管它的办法,是不是就是审批加权限开关。如果是,治理这层活其实还没真正开始,只是把危险动作挡在了门口。

AI 在重塑组织,代价也跟着涨

eval 连续多年都是工程栈里排第一的难题,虽然领先优势在缩小。96% 的人都觉得自己的技术栈有问题,只是彼此对问题出在哪不一致。评估方法里,”凭感觉看”依然是用得最多的一种。

八个技术栈层里,推理和模型服务是买得最多的一层,没人想自己搭推理基础设施。Prompt 管理正好相反,61% 的团队自己写,Barr 调侃说大家都觉得自己的 prompt 特别。微调则是另一个极端,大多数团队压根没做。已经买了的团队不太会回头自建,已经自建的也不太会回头去买,路径依赖已经形成。

97% 的人说 AI 给组织带来净正面影响,排第一的收益是失败的成本降低了,更多实验、更多原型、更多尝试能被放手去做,比单纯变快更打动人。代价也如约而至:超过九成的人同时感受到负面的下游效应,最常提到的是深层技术能力和对代码库理解力在流失。81% 的人说 AI 正在模糊工程师和产品、设计、市场之间的边界。超过三分之一的团队已经有非开发者在上线功能,17% 说非开发者已经在常规上线面向客户的功能。

收束:满意但心虚

76% 的人说 AI 提升了自己的工作满意度,但 59% 担心今天写出来的 AI 代码会变成长期负债,只有三分之一的人愿意说软件工程已经是个解决了的问题。五年赌注里,67% 押某个头部实验室会在五年内宣布 AGI——注意问的是”会不会宣布”,不是”会不会真的实现”。只有 9% 押 Transformer 架构五年后仍是最先进的技术,大多数人其实没把握。整份问卷里最分裂的一题反而是未来 AI 算力会不会跑到太空,赞成 36% 反对 38%,几乎腰斩。

如果只从这 20 分钟里记住一件事:agent 的权限升级已经跑在了治理机制前面,多数团队现在能拿出手的办法还是审批加权限门控。这道题不解决,后面几天讲的所有 harness 设计,做的都是给它打补丁。