开发者深夜遭遇Claude“灵异”乱码，疑似模型严重幻觉或被攻击

近日，知名技术社区Linux.do的一则帖子引发了关于AI模型稳定性的讨论。一位开发者在深夜使用Claude的新模型进行项目优化时，经历了一场长达10小时的“灵异”事件。据该用户描述，项目初期运行正常，但随着时间推移，Claude的输出开始出现异常，包括生成重复的乱码、奇怪的Emoji表情符号以及不符合语法的字符组合。面对这种明显的错误输出，开发者尝试截图并向Claude发送错误报告，然而模型的回复却不仅没有解决问题，反而给出了更为荒诞和逻辑混乱的解释，表现出类似“幻觉”的症状。尽管由于当时过于疲劳，开发者未立即中断任务，但事后回想感到后怕。出于对恶意攻击的担忧，该用户在事后使用火绒安全软件和Windows Defender进行了全盘扫描，结果显示并未发现任何病毒或木马。这一现象引发了社区热议：这究竟是模型在长上下文处理中的“过载”反应，还是某种针对性的对抗性攻击？鉴于本地设备安全无虞，目前主流观点倾向于认为这是大模型在长时间运行或特定Prompt引导下出现的极端输出退化现象。

事件分析

💡 核心观点：长时段运行暴露大模型鲁棒性短板，AI“幻觉”已成为影响开发安全与信任的潜在风险。