NVIDIAとフランスの新興企業Mistral AIは、今週、オープンソースの大規模言語モデル「Mistral NeMo 12B」を発表しました。このモデルは120億のパラメータを持ち、128,000トークンの文脈を解釈できる能力を有しています。
特に開発者が企業向けアプリケーションをカスタマイズしやすく、チャットボットや多言語タスク、コーディング、要約などの機能を、広範なクラウドリソースを必要とせずに展開することを目的としています。
Apache 2.0というオープンモデルライセンスにより、企業はMistral NeMoを商用アプリケーションに容易に統合できるようになっています。
Mistral AIの共同創設者であり首席科学者であるギョーム・ランプル氏は、「NVIDIA AI Enterpriseの展開により、前例のない正確さ、柔軟性、効率性、エンタープライズグレードのサポートとセキュリティを備えたモデルを開発した」と述べています。
Mistral NeMoはNVIDIA DGX Cloud AIプラットフォーム上で訓練され、NVIDIA NIM推論マイクロサービスとして提供されます。このAIモデルは、シングルNVIDIA L40SやNVIDIA GeForce RTX 4090、NVIDIA RTX 4500 GPUのメモリに収まるように設計されており、高効率で計算コストを抑えながら、セキュリティとプライバシーを強化しています。
出典 : NVIDIA Releases Mistral NeMo 12B, a New Open Source, Enterprise LLM | IBL News https://iblnews.org/nvidia-releases-mistral-nemo-12b-a-new-open-source-enterprise-llm/