LlamaIndexは、イベント駆動とロジックの分離機能を備えたWorkflowという新機能を導入しました。
この記事では、LLMアプリケーションがどのように進化していくのか、実践的なミニプロジェクトを通して、Workflowの新機能とその未来について深掘りします。
最近、LLMアプリケーションは知的エージェントアーキテクチャへと移行し始めており、複数のAPIコールや繰り返しの呼び出しが必要になることから、プログラムの応答速度が遅れがちで、コードロジックも複雑になっています。
ReActAgentのようなアプリケーションは、Thought、Action、Observation、Final Answerというステップを踏み、少なくとも3回のLLMコールと1回のツールコールが必要です。
ループが必要な場合は、さらに多くのI/Oコールが発生します。
そうした問題を解決するための方法について考察します。
出典 : Deep Dive into LlamaIndex Workflow: Event-Driven LLM Architecture https://towardsdatascience.com/deep-dive-into-llamaindex-workflow-event-driven-llm-architecture-8011f41f851a
