金·凯瑞“被去世”引热议：谷歌Gemini等AI Agent的致命幻觉难题

近期，关于好莱坞影星金·凯瑞去世的虚假报道在网络上流传，这一现象被技术社区视为AI Agent应用的一种典型“失效模式”。在Hacker News的讨论中，用户指出谷歌的AI模型（如Gemini）在处理此类信息时，不仅会生成错误内容，还表现出一种极度的自信，甚至引用TikTok上的非权威传闻作为佐证，同时排斥来自医学期刊或代码库的真实证据。开发者们分享了类似经历，例如Gemini在面对确凿的Chrome浏览器Bug代码时，仍坚持否认其存在。分析认为，AI工具的普及虽然提高了信息生产效率，但也大幅增加了虚假信息的传播体量。传统的新闻核实流程正在受到冲击，正如资深记者误报大法官退休一样，AI的介入可能让错误信息看似更权威。行业共识在于，目前的LLM技术架构在事实一致性上仍有天然缺陷，若要让AI承担信息核查或搜索助手的职责，必须引入外部知识库验证或多模型共识机制，而非依赖模型本身的概率预测。

事件分析

💡 核心观点：AI的“自信幻觉”是其商业化落地路上最大的绊脚石，单纯提升算力无法解决事实准确性问题。