BNPパリバが進行中のAI変革に新たな一手を加えました。同行は、ビジネスと機能をまたがって生成AIの利用事例を促進し、展開するために、社内の「LLM（大規模言語モデル） as a Service」プラットフォームを設計しました。
この技術によって、各エンティティは標準化され、セキュアなインターフェースを通じて特定のニーズに合わせた言語モデルへのアクセスが可能になり、ツールやプロセスに直接統合できるようになります。
プラットフォームはグループのデータセンターに設置された共有インフラストラクチャに基づいており、GPUなどの専門的なコンピューティング能力を備えています。これにより、オープンソースモデルやグループのパートナーであるMistral AIのモデル、そして近日中には内部データセットを使用したモデルへのアクセスが提供されます。
言語モデルの効率的な実行力とコストの削減と共有を可能にするこの設計は、データプライバシーの要求に従ったセキュアな展開をグループのインフラ内で保証し、ビジネスや機能のニーズとの一致を強化します。
既にグループ内のビジネスでは、内部アシスタント、文書生成、文書内情報検索などの生成AI利用事例が実稼働あるいは実験中です。プラットフォームの実装は、共通フレームワーク内でのこれらの利用事例の展開を容易にし、新しいプロジェクトが迅速に実装されることを加速します。
加えて、段階的な導入により、ローカルの特性を考慮しながら、セキュリティ、コンプライアンス、運用効率の高い水準を保証しています。「LLM as a Service」は既にいくつかのグループエンティティで初期テストフェーズされており、コード生成の開発者や、開発ツール、AI技術、DevOpsチェーンへの集中的かつ容易なアクセスを既に実現しているのです。
出典 : BNP Paribas Provides Its Businesses With an LLM as a Service Platform to Accelerate the Industrialization of Generative AI Use Cases https://ffnews.com/newsarticle/fintech/bnp-paribas-provides-its-businesses-with-an-llm-as-a-service-platform-to-accelerate-the-industrialization-of-generative-ai-use-cases/
