今年に入って、ローカルで動かす大規模言語モデル（LLM）が注目されています。特に「Command R+」などの高性能LLMは、その利便性から使い手を急激に増やしています。これらのLLMを簡単に導入できる秘密兵器が「LM Studio」です。
LM Studioは、HuggingFaceにアップロードされた数々のLLMモデルを瞬時にダウンロードして使用できるため、ますます注目されています。さらにモデルの量子化によってデータ容量が小さく、高速に動作するため、一般のPCでも快適にLLMを体験できます。
使用するPCのVRAM容量を考慮して、最適なモデルを選ぶことができるため、自分の環境に合わせた選定が可能です。これによって、高校生でもAIの最先端を体験する門が広がりました。
出典 : https://ascii.jp/elem/000/004/198/4198080/