Metaが、AIアプリケーション構築をサポートする安定版の開発プラットフォーム「Llama-Stack 0.1.0」を発表しました。このプラットフォームは、Metaが開発したLlamaモデルを使用したAIアプリケーションの製作を容易にするための、汎用的な基盤を提供します。
開発者たちは、推論やセキュリティ、評価などといった基本的なAI機能を取り扱う標準化されたAPI層を利用でき、自分のアプリをどのようにデプロイするかを選択できるようになっています。
Llama-Stackは、様々なAPIプロバイダーと連携する柔軟なプラグインシステムを特徴としており、開発者はリモートサービスやローカルでの運用を選べます。また、CLIツールやPython、Node、iOS、Android用のSDKを用いてアプリケーションを構築できる他、バッチ処理やデータ生成のための追加APIの開発にも取り組んでいます。
このプラットフォームは、開発者が異なるツールやAPIを組み合わせることなく、シンプルでスムーズに異なる環境で作業できるよう、サービス指向でREST APIを使用しています。Metaは、Llama-StackをAI開発における一般的な課題に対処するために作成したと説明しており、すぐに使える一般的なデプロイシナリオ向けのソリューションとしています。
出典 : Meta’s Llama stack makes it easier to develop typical LLM use cases https://the-decoder.com/metas-llama-stack-makes-it-easier-to-develop-typical-llm-use-cases/
