大規模言語モデル(LLMs)は世界の知識を膨大なパラメータに圧縮する卓越した能力を持っています。
しかし、これらのモデルはトレーニングの最終段階までの情報しか持たず、特定の質問に対しては、時に架空の情報を生成してしまうという問題があります。
そこで重要なのが「Retrieval-Augmented Generation」（RAG）技術の導入です。
この記事では、GoogleのLLM「Gemma」にRAGを組み込む方法を、Hugging FaceのトランスフォーマーライブラリやLangChain、Faissベクターデータベースを使用しながら解説します。
RAGは、Wikipediaなどの知識ベースを密なベクター表現に変換し、質問に対するテキストも同様にエンコードして類似性を見つけ出す手法です。
この概要と実装手順について、順を追って学ぶことができます。
これにより、LLMsは特定の質問に答えるための追加的なコンテキスト情報を取り入れることが可能になります。
出典 : https://towardsdatascience.com/how-to-build-a-local-open-source-llm-chatbot-with-rag-f01f73e2a131