生成AIが紡ぎ出す誤情報やハルシネーションは、人々にとって大きな課題となっています。たとえば、AIが作り出した架空の論文リストや、存在しない判例が裁判資料として使用された例があります。
調査では、AIが出力する情報の3〜8％がハルシネーションだとされ、専門的な内容になるとその割合は20％以上にものぼると指摘されています。この背景には、AIが本当の意味や真実を理解しているわけではないという事実があります。AIにとって言葉は、ただのデータに過ぎないのです。
出典 : 闘論席：生成AIはフィクションを紡ぎ出す 池谷裕二 https://weekly-economist.mainichi.jp/articles/20250624/se1/00m/020/001000c
