人工知能（AI）のLLM（大規模言語モデル）が、データから存在しないものを誤って認識し、意味不明な出力を行うことがあります。これをLLM幻覚といい、ユーザーに誤解を招くリスクがあるため、特に意思決定や研究など正確性が重視される分野での使用には注意が必要です。例えば、法律文書に存在しない判例を引用したり、客からの質問に間違った情報を提供したりといった場合があります。
これらは組織の信頼性や市場シェア、法的責任にも影響を及ぼす可能性があります。このため、人工知能は透明性や正確性を担保する原則を以て構築されるべきであり、確かなデータに基づく限定されたモデルを使用するなどの対策が推奨されています。
このような幻覚を抑えるためには、検証されたビジネス情報を用いてモデルをトレーニングし、より正確で最新の情報を顧客に提供することが重要とされています。
出典 : LLM Hallucinations: What Are the Implications for Businesses? https://biztechmagazine.com/article/2025/02/llm-hallucinations-implications-for-businesses-perfcon
