模型可解释性

Anthropic发布NLA技术：首次直接翻译Claude的“思维活动”

Anthropic推出了一种名为“自然语言自编码器”（NLA）的新方法，旨在解决AI模型的“黑盒”问题。该技术通过训练模型解释自身的神经元激活，将其转化为人类可读的自然语言，从而实现直接“阅读”Claude的想法。研究显示，NLA不仅能揭示...