工学の技術は、標準作楽手順(SOP)を実際に応用し、モデルの可能性を最大限に引き出す手助けをします。この原則を考える際に、私たちはどのようなツールや技術を使ってSOPを実形にし、モデルが私たちと効果的にコミュニケーションを取るのを手伝うかを考慮するべきです。
エンジニアリングの技術は、プロンプト層のみに実装されるものもあれば、効果的に機能するためにソフトウェア層が必要なもの、そして両方の層を組み合わせるものも存在します。毎日たくさんの細かなテクニックが発見されていますが、ここでは主に2つのテクニック、ワークフロー/チェーンズとエージェントについて取り上げます。
エージェントとは、LLMネイティブアーキテクチャの独立したコンポーネントで、LLMの呼び出しを伴います。エージェントは従来のコードだけではなく、LLMを使用して一連のプロセスを実行します。エージェントはツールを備えている場合とそうでない場合があり、一度きりや反復的に使用されるなど、使用方法は多岐にわたります。
しかし、エージェントが自立してタスクを行う能力を高めると、出力の品質のコントロールを損なう可能性があります。フルオートのエージェントは素晴らしく見えるかもしれませんが、実際の生産ケースでは予測不可能で、品質が安定しないため、デバッグが困難になります。
エージェントを一連のタスク全体に渡って完全に自由にさせるのではなく、流れの特定の部分にその役割を限定することで、余地を持たせ、高品質な結果を引き出すことができます。例えば、AlphaCodiumは構造化された流れと異なるエージェントの組み合わせにより、コーディングコンテストでのGPT-4の精度を著しく向上させました。
出典 : https://towardsdatascience.com/the-llm-triangle-principles-to-architect-reliable-ai-apps-d3753dd8542e