AI新漏洞：'双言'攻击劫持语言模型表示

研究团队提出了一种针对大型语言模型（LLMs）的新型攻击方法’Doublespeak’。该攻击通过在上下文示例中系统地将有害关键词（如’炸弹’）替换为无害标记（如’胡萝卜’），然后提交有害请求。实验表明，这种替换导致无害标记的内部表示逐渐收敛到有害标记的表示，从而绕过模型的安全防护。这一发现揭示了LLMs在上下文学习中的潜在脆弱性，对AI安全研究提出了新的挑战，并可能推动更强大的防御机制的发展。