マイクロソフトは、スマートフォン上でも稼働するコンパクトな言語モデル「phi-3-mini」を発表しました。前モデル「Phi-2」の後継として、大規模なモデルに劣らないパフォーマンスを持つと主張しています。phi-3-miniは、選別されたウェブデータと合成データを使用したトレーニングを行い、安全性とロバスト性に配慮されており、特にチャット形式での利用に適しています。
しかし、小型であるため英語にしか対応しておらず、「ホラ」を吐く問題や事実知識の保持能力が限られている点などの弱点も認められています。今後のアップデートで検索エンジンとの連携を図り、これらの問題の解決を目指しているとのことです。
また、緊密な専門化を迎えると予測され、特定用途に合わせたモデルが登場することで、AIテクノロジーの新たな地平が開かれるでしょう。
出典 : https://techmonitor.ai/technology/ai-and-automation/microsoft-phi-3-mini