GoogleはGoogle Cloud Next 24で、先進的なAIモデルを作成・実行するための3つのオープンソースプロジェクトを発表しました。また、その場でMaxTextプロジェクトに新しい大規模言語モデルを追加したことも明らかになりました。
MaxTextプロジェクトには、GemmaやGPT-3、Llama 2、Mistralなどの新しいモデルが含まれており、これらはGoogle CloudのTPUとNvidiaのGPUの両方でサポートされます。
この発表の中で明らかにされたオープンソースプロジェクトの一つに、高性能でスケーラブルな差分モデルの実装集であるMaxDiffusionがあります。JAXというフレームワークで構築されており、数値計算と大規模機械学習を高性能に行うことができます。
また、JetStreamというXLAコンパイラーに最適化された言語モデルの推論エンジンも紹介されたほか、PyTorchユーザー向けのOptimum-TPUが公開されました。これにより、Google CloudのTPUを最大限利用することが可能になります。
出典 : https://www.infoworld.com/article/3715123/google-unveils-open-source-projects-for-generative-ai.html