生成AIが出す虚偽の情報を評価する技術「ハルシネーション自動評価エンジン」がオルツ社から発表されました。
このエンジンは、AIが生成した内容における不一致や矛盾を見つけ出し、虚偽かどうかを確率で評価します。
実際のデータによる実験では、72%の正確さをもってハルシネーションを判断することができ、さまざまなAIモデルに応用可能です。
この技術が広まれば、AIの信頼性問題を大きく減らし、より安心してAIを利用できる社会が実現するでしょう。
出典 : https://news.mynavi.jp/techplus/article/20240509-2942451/