最新のオープンソース技術「OLMoTrace」が、AIを使った企業のIT戦略に革命をもたらします。これは、大規模な言語モデル（LLM）がどのように学習データを基に出力を生成しているのかを明らかにする手法です。Allen Institute for AIにより開発されたこのツールは、AIの意思決定がどのように行われているかの透明性を高めることを目的としています。
OLMoTraceでは、AIが生成したテキストを訓練時のデータに直接的にリンクさせ、どこからどのように情報を学習したかをユーザーが確認できるようになります。これまでの信頼スコアや語句の検索を補助する手法とは異なり、言語モデル出力と膨大な訓練データセットとの間の関連性を直接的に見ることが可能です。
さらに、OLMoTraceは医療や金融、法律サービスといった規制の多い産業におけるAIの導入において、これまでのブラックボックスシステムに比べて優れた利点を持つことが期待されています。この技術はアパッチ 2.0 オープンソースライセンスの下で利用可能であり、モデルの訓練データにアクセスできる組織なら誰でも類似の追跡機能を実装可能です。
出典 : What’s inside the LLM? Ai2 OLMoTrace will ‘trace’ the source https://venturebeat.com/ai/whats-inside-the-llm-ai2-olmotrace-will-trace-the-source/
