人工知能(AI)の分野で、特に生成AI（gen AI）アプリケーションの開発が進むにつれ、LLMOpsの効率的なオーケストレーションが重要になっています。自然言語生成、機械翻訳、意思決定、チャットボットなど多岐にわたるアプリケーションで活用されています。
しかし、大言語モデル（LLM）単体では、リアルタイムで新たな情報を学習したり、多段階の問題を解決するのに限界があります。そのため、プロンプトエンジニアリング、API操作、データ取得、会話における状態管理を一元化する、LLMオーケストレーションフレームワークの開発が進められています。
これらのフレームワークは日々進化し、設定やデータベースを扱うもの、AIエージェントを用いて協働して目標を達成するものなど、様々な専門分野が生まれています。
出典 : What is LLM Orchestration? | IBM https://www.ibm.com/think/topics/llm-orchestration
