决策过程

为什么 90% 的 AI Agent 在生产环境都是盲盒

一个医疗 AI 公司的 Agent 在生产环境出错，给病人开了错误的药剂量。 团队花了三天查日志，最后发现问题：他们根本看不到 Agent 的决策过程。 日志里只有「任务完成」，但不知道 Agent 怎么想的、调用了什么工具、为什么会出错。...