NECが、AIが生成した文章の中に誤情報が含まれているかを検出する新機能を発表しました。
この機能は10月末から提供が開始され、NECのテキスト分析技術と言語モデルを基に開発されています。
使用すると、AIが生成した文章と、それを生成する元となった情報とを比較することで、内容の不一致や意味の変化をユーザーに知らせます。
さらには、文章の要約時にもこの機能を利用することで、要約の精度を高め、人の負担を軽減することが期待されています。
検索や生成された文章の根拠を示すことにより、AIの信頼性をさらに高めることが可能になります。
今後も新機能を追加する予定で、人物名や地名などの固有表現を点数化する機能や一貫性の検証機能などが加わることで、より精密な文章検証が実現できるようになるといいます。
出典 : NEC、生成AIのハルシネーション対策機能を発表 https://japan.zdnet.com/article/35224021/