Anthropic揭秘“助手轴”：如何在大模型脑中锁定安全人格

Anthropic最新研究通过分析大模型内部神经活动，定义了“助手轴”这一关键概念，用于量化模型在不同人格间的状态。研究发现，模型容易在自然对话中“漂移”偏离安全助手人格，从而产生有害输出。通过限制该轴上的神经激活强度，研究团队成功在不影响模型能力的前提下，显著降低了越狱攻击和人格漂移带来的风险，为AI安全对齐提供了新路径。