Allen Institute for AIが開発したOLMoTraceは、AIがテキストを生成する際に参照した資料を研究者や開発者が確認できる新機能です。これにより、AIがどのようにして結果を出したのかが分かりやすくなるでしょう。
OLMoTraceは、言語モデルの出力を元のトレーニングドキュメントに直接遡ることができる初の機能とAi2は主張しています。同機能は、32億ドキュメント以上をトレーニングに利用した彼らの主力モデル、OLMo 2 32Bで利用可能です。
「OLMoTraceは、AI開発の未来にとって重要な一歩です。研究者や開発者がより理解しやすい透明なAIシステムの基盤を築くことができます」と、主任研究員のJiacheng Liuは述べています。
使用者はAi2 PlaygroundでOLMoから回答を得た後、「Show OLMoTrace」ボタンをクリックすることで、このツールを利用できます。すると、トレーニング過程での32億ドキュメントすべてを検索し、出力に対応するトレーニング資料のテキストフラグメントをハイライトします。
関連度スコアによってランク付けされたドキュメントのセットへのリンクが提供され、出典元を探ることができます。OLMoTraceは、Google CloudによってホストされたサービスとしてAi2 Playgroundで利用可能です。
出典 : Ai2 introduces OLMoTrace: a peek inside LLM’s https://www.techzine.eu/news/analytics/130296/ai2-introduces-olmotrace-a-peek-inside-llms/
