ServiceNowが開発した新しいオープンソースの技術、Fast-LLMがAI訓練を変革しようとしています。この技術により、大規模な言語モデルを従来よりも20%速く訓練することが可能になり、企業は時間と費用を節約することができます。StarCoder 2というLLMの訓練にも貢献しており、Hugging FaceやNvidiaなどの他のオープンソースプロジェクトと協力しています。
Fast-LLMの特徴は、計算の順序付けとメモリ使用の最適化にあります。特に、GPU上の計算が分散される方法とメモリの効率的な使用方法が検討されています。これにより、モデル訓練の際のメモリ断片化問題もほぼ完全に解消されます。Fast-LLMはPyTorch環境に容易に統合でき、迅速な訓練が可能になるため、研究者やモデル開発者は大規模な訓練への挑戦をためらいません。
今後このプロジェクトはオープンソースとして発展していき、外部からの貢献も期待されています。ServiceNowはこのフレームワークを透明性を持って運営し、コミュニティからのフィードバックに応じることで、さらなるスケールアップを目指しています。
出典 : ServiceNow open sources Fast-LLM in a bid to help enterprises train AI models 20% quicker https://venturebeat.com/ai/servicenow-open-sources-fast-llm-in-a-bid-to-help-enterprises-train-ai-models-20x-quicker/
