AI安全的阿喀琉斯之踵：为何“忽略指令”攻击让所有Agent防御形同虚设

这篇文章深入剖析了大语言模型（LLM）面临的核心安全漏洞——即“提示词注入”。作者以经典的“Disregard That”网络笑话为例，揭示了LLM对上下文窗口中的所有内容一视同仁的致命缺陷：无论是系统指令、谷歌搜索结果还是用户输入，只要包含恶意指令，模型都可能盲目服从。文章辛辣地指出，目前业界推崇的“AI护栏”和“多重代理”防御机制不仅无效，更是安全上的掩耳盗铃，并解释了OpenAI Sora等产品面临的监管困境。