Googleが提供するAI機能「AI Overview」と新たな学習フレームワーク「SaySelf」、そして言語モデルの評価に特化した「PROMETHEUS 2」により、
AIの「ハルシネーション」を防止し、信頼度の表示を可能にする進化が進んでいます。
「ハルシネーション」とは、嘘を含んだ誤回答のことで、これを減らし、AIの生成する回答をより信頼できるものにするための技術です。
SaySelfはAIに自信度を持たせ、理由付けを可能にし、PROMETHEUS 2は出力内容の評価を客覧で行います。
これらを通じて、AIが提供する情報の品質が向上し、私たちの利用範囲が広がります。
人々はAIの答えに疑問を持ちつつも、真摯なパートナーとして活用できるようになるのを期待されています。
出典 : https://www.brainpad.co.jp/doors/contents/generative_ai_llm_news_trend_6/