ソリューションをコンセプトまたはプロトタイプから構築したい場合、トップダウンデザインモデルがおすすめです。
最初にアプリケーションの高次元な概念設計を行い、詳細を詰めずに各コンポーネントを別々に開発していきます。
このデザイン方法が最初に最良の結果をもたらすわけではないものの、反復的なアプローチを実施する基盤を築き、アプリの各部分を改善し、最終製品を繰り返しテストすることができます。
例としては、RAG（Retrieval Augmented Generation）型アプリケーションを挙げることができます。
これらのアプリケーションは、検索して関連文書をリトリーブするコンポーネントと、リトリーブされた文書から具体的な回答を生成するコンポーネントの、2つの高次元コンポーネントを持っています。
例えば、技術的な問題の診断と解決策を提供するアシスタントボットを構築するシナリオでは、まず概念プロトタイプを作成し、リトリーブするコンポーネントの改善を図ることが重要です。
そして最終的には、より関連性の高い出力を生み出すために、生成するコンポーネントを高度化していきます。
出典 : What Did I Learn from Building LLM Applications in 2024? — Part 2 https://towardsdatascience.com/what-did-i-learn-from-building-llm-applications-in-2024-part-2-86433ef437a7
