Anthropic 将神经网络追踪工具开源

Anthropic 公司已经正式将新一代的神经网络追踪工具开源，目的是协助研究者深入理解大型模型的推理过程。

据了解，该工具能够创建一系列“归因图”，这些图能够揭示 AI 模型处理输入词的详细步骤，从而让开发者更容易地观察和调整模型。

另外，Anthropic 与 Decode Research 团队携手打造了 Neuronpedia 前端平台，用户能够直接在网页上与归因图进行互动。该平台还提供了“示例笔记本”，通过展示如 Gemma-2-2b 和 Llama-3.2-1b 等模型的内部工作机制，鼓励用户探索各种输入词，比较不同模型的行为差异。

Anthropic 公司的首席执行官 Dario Amodei 表示，大型模型的“可解释性”是当前业界关注的焦点，这套神经网络追踪工具将推动社区的参与，帮助开发者更快地掌握大型模型的逻辑行为。