スタンフォード大学の科学者たちが新しいオープンソースのプラットフォーム「OctoTools」を開発しました。
これは、大規模言語モデル（LLM）の論理的な問題解決を促進するために、タスクを小分けにし、道具を活用してモデルを強化します。
特に、複数の手順や専門知識が必要な推論タスクにおいて、OctoToolsは訓練なしで多くのツールを司令し、汎用的なLLMを基軸とすることが可能です。
OctoToolsは「ツールカード」という、Pythonコードの実行やウェブ検索のAPIなどのツールを使用するラッパーを備えており、
開発者が自分のアプリケーションに合わせて新たなツールカードを追加することができます。
タスクが与えられると、高レベルの計画を立て、必要なスキルや道具を特定し、具体的なサブゴールへと分解する「プランナー」モジュールが動作します。
このプラットフォームは、ストラテジックプランニングとコマンド生成を分離することで、エラーの低減と透明性の向上を実現し、
より信頼性が高く、メンテナンスが容易なシステムになっています。
さらに、最適化アルゴリズムによって、タスクごとに最適なツールのサブセットを選択します。
複雑なタスクにLLMを活用するための実用的な解決策を提供するOctoToolsは、進化したAI推論アプリケーションの境界を広げることでしょう。
GitHubでコードが公開されています。
出典 : OctoTools: Stanford’s open-source framework optimizes LLM reasoning through modular tool orchestration https://venturebeat.com/ai/octotools-stanfords-open-source-framework-optimizes-llm-reasoning-through-modular-tool-orchestration/
