今日のAI技術を支える大言語モデル(LLM)には、テクノロジーとのやり取りを変える可能性があります。オープンソースのモデルはアクセスを民主化し、
研究者や開発者に深く理解する機会を与えています。MetaのLlama 3は、前作の7倍のデータ量である15兆トークン以上を学習し、言語タスクにおいて圧巻の性能を発揮します。
Hugging Face主導のBloomは、1760億パラメーターを持ち46言語に対応しており、AIコミュニティに透明性をもたらします。
MosaicMLのMPT-7Bは、コードとテキストの1兆トークンを用いたトレーニングで、ビジネスの判断を助けます。
Technology Innovation InstituteのFalcon 2は、5兆トークンのデータセットを活用し、Englishを中心に多言語に及ぶ改善を図っています。
また、LMSYS ORGのVicuna-13Bは、ShareGPT.comを通じてユーザーより共有された会話を学習させ、流暢なチャットボットを実現しました。これらオープンソースのLLMは、学術研究やビジネスアプリケーションのみならず、
AI分野の革新に貢献しつづけています。
出典 : 5 Best Open Source LLMs (August 2024) https://www.unite.ai/best-open-source-llms/