NECは2024年10月末より、AIが間違った情報を生成する「ハルシネーション」に対処する新機能を提供開始します。
この機能は、AIが回答を生成する際、根拠となる文書を表示し、要約や検索結果と照らし合わせて矛盾をチェックします。
医療や金融など正確な情報が求められる分野で特に有効であり、作業の効率化と正確性の向上が期待されています。
要約では、情報の抜けや重複、意味の変化などを検出し、人間による検証負担を軽減します。
今後は、固有名詞の一致度を数値化し、文章の一貫性も検証する機能の追加が予定されています。
出典 : NEC、RAG/要約精度を高めるハルシネーション対策機能、回答根拠と結果を比較して矛盾を指摘 https://it.impress.co.jp/articles/-/26853