ICML 2026 论文揭示提示词攻击原理：源于 LLM 的“角色混淆”

这篇提交至 2026 年国际机器学习会议（ICML）的论文《Prompt Injection as Role Confusion》由 Charles Ye 等人撰写，正式为大模型安全领域最棘手的“提示词注入”问题提供了理论解释。研究指出，提示词注入攻击之所以能够轻易绕过安全限制，核心原因在于大模型产生了“角色混淆”。在模型的内部视角中，它往往无法清晰区分“系统预设的指令角色”与“用户输入的指令角色”之间的严格界限。当恶意输入被模型错误地归类为高优先级的系统指令时，模型便会在角色认知混乱的状态下执行非预期操作。该研究将漏洞根源从单纯的工程疏漏提升到了认知机制的层面，为未来的模型对齐训练和 AI 安全防御奠定了坚实的理论基础。

事件分析

💡 核心观点：将提示词攻击归因为“角色混淆”，标志着大模型安全研究从被动防御迈向了理论治本的关键一步。