打破AI“黑盒”魔咒：旧金山初创Goodfire推出首个机械可解释性工具Silico
旧金山初创公司 Goodfire 近日发布了名为 Silico 的全新工具，旨在通过“机械可解释性”技术解决大型语言模型（LLM）难以调试的问题。该工具允许研究人员在训练过程中窥视模型内部，并调整决定其行为的参数，从而实现对技术构建过程的精...
标签索引
机械可解释性
这个标签下有 2 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
探秘 AI 内部机制：大语言模型究竟如何产生“情绪”？
本文深入探讨了大型语言模型（LLM）内部处理“情绪”的机制。研究者通过分析 Transformer 架构的电路图，发现模型并非仅仅是简单地模仿人类的情绪语言，而是真的在内部形成了特定的“情绪概念”神经元。这些情绪特征在模型处理对话、角色扮演...