人工知能（AI）は自身の発言を検証できるようになりました。アレン人工知能研究所（Ai2）が開発したOLMoTraceは、AIが出力した情報がどの元データに基づくものなのかを特定できる新機能です。この技術により、AIの発言背後にあるトレーニングデータの正確な部分がわかり、透明性が高まると期待されています。
このシステムは、APIを通じて開発者が容易に参照ソースを照会できるようにするものですが、創作物や物語など、ある特定の出力に関しては、そのソースを特定することができません。また、リンク切れという問題もありますが、開発者自身がインデックスを構築できるようにし、この技術を進化させていくことを目指しています。
人々がAIの発言をより信頼できるようにするために、学術研究の文脈で特に有用ですが、これからビジネスや日常の利用においてもその価値が期待されています。
出典 : Breakthrough: LLM Traces Outputs to Specific Training Data https://thenewstack.io/llms-can-now-trace-their-outputs-to-specific-training-data/
