OpenAIのChatGPTなどの大規模言語モデル(LLM)が持っている問題の一つは、現実と異なる情報を生み出す「幻覚」です。この誤情報により実際に人々が迷惑を受ける事態も起こっており、それを防ぐための解決法が求められています。
ニューロシンボリックAIは、この課題に対する答えとして期待されている技術で、ニューラルネットワークの推測学習と人間の論理的なルールを組み合わせ、より信頼性が高く理解しやすいAIの実現が目指されています。課題はまだ多いものの、効率的で公平なAIシステムへの道筋が見え始めています。
将来的には、AIが少ないデータから学び、多様なタスクをこなしつつ、私たちがその決定過程を理解できるような形で設計されることが求められます。AI技術は、規制だけに頼らずに自己調整できるような発展を遂げていく必要があるのです。
出典 : ニューロシンボリックAIは、大規模言語モデルのハルシネーションを防ぐための答えだ https://xenospectrum.com/neurosymbolic-ai-is-the-answer-to-large-language-models-inability-to-stop-hallucinating/
