你的 Agent 不理解,它在表演
你看着 Agent 输出的长篇大论,觉得它「理解」了。 但它只是在表演理解。 三个幻觉 幻觉一:生成 = 理解 LLM 的本质是概率预测,不是语义理解。它输出「我明白」是因为「我明白」在训练数据中经常跟在问题后面,而不是因为它真的理解了。 ...
标签索引
这个标签下有 1 篇文章。按时间回看相关判断与实践记录。
标签精选
你看着 Agent 输出的长篇大论,觉得它「理解」了。 但它只是在表演理解。 三个幻觉 幻觉一:生成 = 理解 LLM 的本质是概率预测,不是语义理解。它输出「我明白」是因为「我明白」在训练数据中经常跟在问题后面,而不是因为它真的理解了。 ...