科学家编造假病测试 AI，聊天机器人竟一本正经地误导大众

一项最新研究揭露了大型语言模型（LLM）的严重缺陷。研究人员虚构了一种名为“比克森狂躁症”的疾病，并将其植入一些明显的 bogus 论文中。然而，当用户向主流 AI 聊天机器人咨询眼疾症状时，这些 AI 竟然煞有介事地确诊并警告这一虚构病症。这一实验不仅凸显了 AI 无法有效区分真伪信息的“幻觉”问题，更引发了对于 AI 模型可能成为医疗错误信息放大器的深度担忧，为 AI 安全与数据治理敲响了警钟。