機械学習の舞台裏:データとコード

2024.09.30

WorkWonders

開発者の視点から見ると、コードは通常、メインの取り組み対象です。
しかし、機械学習を取り扱う人たちのワークフローでは、データが全く異なる役割を果たしています。データとコードは、開発者が目指す成果に直結しています。モデルにはトレーニングのためのデータが必要ですし、Retrieval-Augmented Generation(RAG)のような最先端のモデルで動作する際にも、追加の文脈としてのデータが必要です。
RAG実装に特化して話すと、異なるソースからのデータを集め、変換し、そのデータのベクトル表現を生成して、特定のデータレポジトリに保存するという過程が必要とされます。このレポジトリは特殊なデータタイプに対応し、RAGが正確なデータへの問い合わせが可能なように、必要なクエリ機能をサポートしていなければなりません。
これにより、モデルが生成しようとするレスポンスに関連する適切なデータを見つけ出すことができます。従来の流れを例にとると、データを集めてベクトルに変換し、複数のデータソースから得たベクトルを保管するアーキテクチャがあります。

出典 : How to improve LLM RAG responses using search data | AWS Marketplace https://aws.amazon.com/marketplace/build-learn/data-analytics/smarter-llm?trk=c38b0fb6-5e6a-42d6-9b3a-02a9db69eafe&sc_channel=el

【このニュース記事は生成AIを利用し、世界のAI関連ニュースをキュレーションしています】

ワークワンダースからのお知らせ

生成AIの最新動向をメルマガ【AI Insights】から配信しております。ぜひご登録ください

↓10秒で登録できます。↓