今年の4月、Microsoftは小型言語モデルの新シリーズ「Phi-3」を発表しました。このPhi-3の最小モデルである「Phi-3-mini」は、その２倍のサイズのモデルを上回る性能を示しています。
一方でAppleも、「DCLM-7B」というオープンソースの新モデルをリリースし、数学やコーディングなど様々なタスクに広く活用できるように設計されました。
しかし、ベンチマークテーブルからは、MicrosoftのPhi-3がAppleのDCLM-7Bを全ての範疇で上回ったことが分かります。特に、同じサイズの比較を行わず、サイズが異なるモデルとの比較がされた理由について、Appleは言及していません。
小型言語モデルの開発競争は加速しており、MicrosoftのPhi-3がハイスコアを出していますが、AppleのDCLM-7Bもデータキュレーションに焦点を当てたことで、大きな可能性を示しています。
これらのモデルがAI分野全体にどのような影響を与えてゆくのか、その進化が注目されます。
出典 : Apple’s open-source LLM model struggles to match the performance of Microsoft’s Phi-3 https://www.neowin.net/news/apples-open-source-llm-model-struggles-to-match-the-performance-of-microsofts-phi-3/