最新の技術を使って、自分だけの情報に答える質問応答システムを自宅で作る方法について解説します。
OpenAIの技術を使い、埋め込みモデル(文やフレーズをベクタースペース内の数値で表すもの)を活用して、あなたのドキュメントから得たデータで言語モデルを拡張し、特定の質問に答えます。
このシステムは、データプライバシーを守りながら、ネットワークを介さずにローカルで問題解決を試みることができるという点で画期的です。
データをベクトルに変換し、それをLlama 2という言語モデルで処理することで、質問に対する簡潔な答えを得ることが可能です。
今後、PDFやDOCXなど様々な文書形式の取り扱いや、FAISS、SQLite-vssを超えるベクトルデータベースにも目を向けることで、より実用的なアプリケーションへと繋がっていきます。
出典 : https://www.infoworld.com/article/3715181/fully-local-retrieval-augmented-generation-step-by-step.html