大規模言語モデル（LLM）を活用する実用的なシリーズの一環として、この記事ではMac（M1, 16GB）上でのLLMのローカルファインチューニングについて解説します。先に、無料のGPUを利用してGoogle Colab上でLLMをファインチューニングする方法を紹介しましたが、それはNvidiaハードウェアでしか動作しませんでした。一方、統合メモリを使用するAppleのMシリーズチップは、GPUを必要としないため、多くのオープンソースツールがMacではうまく機能しないか、またはその計算力を完全には活用できていません。
MLX Pythonというライブラリの発見により、Mac上でもローカルにLLMをトレーニングする夢を実現できるようになりました。この記事では、Macユーザーが直面する問題を克服し、自分のマシンでカスタムMLソリューションを構築するための効率的なファインチューニングメソッドを紹介します。
出典 : Local LLM Fine-Tuning on Mac (M1 16GB) https://towardsdatascience.com/local-llm-fine-tuning-on-mac-m1-16gb-f59f4f598be7