NECが、AIが事実と異なる情報を作り出してしまう問題、「ハルシネーション」を抑える技術を開発しました。
この技術は、AIが文章の要約などを行った際、実際の内容と照らし合わせて矛盾があれば、その箇所を指摘してくれます。
10月末からはNECの生成AIサービスで標準機能として利用可能になる予定です。
医療や金融など、正確な情報が重要な領域での活用が期待されています。
今までは人の手によって矛盾を探す必要がありましたが、この新技術があれば自動でエラーを見つけられるため、作業の負担軽減や要約の精度が格段に向上することが予想されます。
さらに、NECは生成AI「cotomi」とマイクロソフトの「アジュール・オープンAI・サービス」を提供しており、新技術はそれらのAPIにも組み込まれます。
出典 : NEC、生成AI要約の「幻覚」箇所を提示 医療や金融向け https://www.nikkei.com/article/DGXZQOUC17AXO0X10C24A9000000/