Anthropicが開発した「circuit tracer」は、AIがどのようなプロセスで結果を出すかを視覚化し、理解しやすくしたツールです。このライブラリは、2025年5月29日にオープンソースとして公開されました。
研究者だけでなく、一般の人もGitHub上で自由にアクセスし、AIモデルの思考パターンを追跡することができます。また、Neuronpediaというプラットフォームでは、ツールのデモが公開されており、ユーザーはプロンプトに対して自分のアトリビューショングラフを生成し、AIの出力を理解するのに役立てることが可能です。
これにより、AIの決定過程を可視化し、より深い分析や学習が期待されます。
出典 : 生成AIの内部で何が起こっているのか？ ―Anthropic、言語モデルの思考をトレースする“circuit tracer”をオープンソースとして公開 https://gihyo.jp/article/2025/05/circuit-tracer
