GoogleがAIの「ハルシネーション」、つまり間違った情報を本当のこととして回答してしまう問題に対処するための新プロジェクト「DataGemma」を発表しました。
AIに真実を話させる試みで、信頼性の高いデータベース「Data Commons」を用い、事実に基づいた回答を目指しています。
このプロジェクトでは、データ検索を通じて回答を生成する「RIG」と、関連情報を取り込む「RAG」という二つの技術が鍵を握ります。
「Gemini 1.5 Pro」というモデルを利用し、長いコンテキストを理解することで、AIの応答回数をより正確にし、幻覚のリスクを減少させると期待されます。
初期の結果は励みになるもので、「数値的事実の精度が大きく向上した」とのこと。これにより、AIの発展がさらに加速するかもしれません。
出典 : グーグル、生成AIの“幻覚”対策で前進 統計データなど統合 https://www.watch.impress.co.jp/docs/news/1624288.html