NECが2024年9月18日に発表したAI技術が、生成した情報が事実ベースかどうかをチェックする新しい試みです。
この機能は、AIが書いた文章が元のデータとどのように関連しているか、また矛盾がないかを見せてくれます。10月からはこのサービスの提供が開始される予定で、要約時の文書比較にも活かされることになります。
では、実際に文章がどうチェックされるか。AIが要約した文書に、原文にはない情報や言い回しが混ざっていないかを表示してくれるのです。分析は単語レベルでなされるため、誰でも扱いやすいです。
NECは、この機能をGenerative AI ServiceのAPIとしても標準装備します。外川遼介氏は、使いやすく便利な技術と自信を持って紹介しています。高校生でも理解しやすいこの技術によって、AIが出力する文章の信頼性がさらに高まるでしょう。
出典 : NECがハルシネーション対策に新機能、生成AIが出力する文章の矛盾箇所など掲示 https://xtech.nikkei.com/atcl/nxt/news/24/01538/