针对近期社区反馈的DeepSeek模型疑似存在“对话泄露”的问题,DeepSeek官方发布正式说明进行回应。事件起因是部分用户发现,在与DeepSeek模型交互时,若输入“think”这类特殊字符,模型偶发性会返回看似他人对话的不可预期内容,从而引发了用户对于隐私安全和数据泄露的严重担忧。DeepSeek技术团队对此进行了全面排查,最终确认该现象并非系统后端存在安全漏洞,也未发生任何用户隐私数据的对外泄露。从技术原理上看,这是由于特殊字符触发了模型的生成机制异常,导致模型产生了“幻觉”(Hallucination),即生成了虚构且看似真实的文本内容,而非真实的缓存数据回传。官方强调,这是一个已被识别的模型缺陷,后续将针对性地加强训练,提升模型对特殊字符的识别与鲁棒性处理能力,修复已知问题,以优化在此类特殊场景下的输出表现,确保用户的使用体验与数据安全。
事件分析
💡 核心观点:特殊字符触发的异常输出虽非真实漏洞,但暴露了大模型在非标准输入下的脆弱性,增强鲁棒性是AI落地安全的关键。
原文链接:Linux.do





