最新の研究が指摘するのは、AIの大規模言語モデル（LLM）が生み出す「幻覚」という現象です。この幻覚は、事実と異なる情報をAIが生成してしまう問題を指します。今回注目した論文「LLMs Will Always Hallucinate, and We Need to Live With This」では、幻覚は予測不可能な誤りではなく、LLMの基本的な性質であり、どうしても避けられないとされています。
この問題は、計算理論、特にゲーデルの不完全性定理や停止問題に関連しています。研究では、訓練データの不完全性、AIの情報解釈の限界、自然言語の曖昧性が幻覚を引き起こす要因として挙げられます。さらに、事実確認メカニズムを導入しても、幻覚を完全に排除することはできないと結論付けています。
しかし、AIのこのような「不完全さ」が、創造性を生み出す源泉にもなっているという二面性も紹介されています。複雑であるがゆえのAIの奥深さを明らかにする、この研究を通して、AIと上手に共生していく方法を考察してみましょう。
出典 : 生成AIのハルシネーションは原理的に排除不能。不完全性定理など数学・計算機理論で説明 モデル改良や回避システムでも不可避とする論文（生成AIクローズアップ） https://www.techno-edge.net/article/2024/09/17/3675.html