为什么 90% 的 AI Agent 在生产环境都是盲盒
一个医疗 AI 公司的 Agent 在生产环境出错,给病人开了错误的药剂量。 团队花了三天查日志,最后发现问题:他们根本看不到 Agent 的决策过程。 日志里只有「任务完成」,但不知道 Agent 怎么想的、调用了什么工具、为什么会出错。...
标签索引
这个标签下有 1 篇文章。按时间回看相关判断与实践记录。
标签精选
一个医疗 AI 公司的 Agent 在生产环境出错,给病人开了错误的药剂量。 团队花了三天查日志,最后发现问题:他们根本看不到 Agent 的决策过程。 日志里只有「任务完成」,但不知道 Agent 怎么想的、调用了什么工具、为什么会出错。...