BNPパリバは、ビジネスや機能での生成型AIの使用事例を促進するために、社内に「LLM as a Service」というプラットフォームを展開しました。
この技術により、グループ内の各エンティティが標準化された安全なインターフェースを通じて、それぞれのニーズに合わせた言語モデルを選択してアクセスできます。
モデルはツールやプロセスに直接統合される可能性があります。
さらに、このプラットフォームはグループのデータセンターに構築された共有インフラストラクチャをベースにしており、専門的なコンピューティング能力(GPU)を備えています。
それにより、オープンソースモデルや、グループのパートナーであるミストラルAIのモデル、そしてやがては内部データセットでトレーニングされたモデルにアクセスできます。
このような体制は、言語モデルを効率的に実行すると同時に、コストを共有して制限するための高い処理能力をグループに与えます。
また、安全なデプロイを保証し、ビジネスや機能全体での生成型AIの使用の一貫性を高めます。
具体的な用途としては、内部アシスタント、文書生成、文書内情報の検索などが既に実稼働または実験フェーズに入っています。
このプラットフォームの導入により、共通の枠組み内でこれらの使用事例を展開し、新しいプロジェクトの実装を加速することが可能です。
「LLM as a Service」は、まずはHello bank!やグループ一般検査などのさまざまなエンティティでのテスト段階を経て、工業化プロセスに従ってグループ全体で段階的に展開される予定です。
それにより、開発者はコード創出を行ったり、開発ツール、AI技術、DevOpsチェーンへの集中的なアクセスを容易にすることができます。
最後に、この段階的な導入により、地域の特性を考慮しながら、高いレベルのセキュリティ、遵守、運用効率を確保することが可能になります。
出典 : BNP Paribas Deploys Internal ‘LLM as a Service’ Platform https://www.marketsmedia.com/bnp-paribas-deploys-internal-llm-as-a-service-platform/
