大規模言語モデル（LLM）を自分のパソコンで動かす手段として、DeepSeekやClaude、MetaのLlamaなどが存在しますが、
PythonとHugging FaceのAPIを組み合わせることで、より高度な制御が可能になります。まず、Pythonの仮想環境を作成し、PyTorchとHugging FaceのライブラリをPIPコマンドでインストールします。
次に、Hugging Faceのウェブ上でLLMの名前を調べ、必要なファイルをダウンロード。最後に、Pythonプログラムをコーディングして実行すれば、手元でLLMを活用でき、例えばプログラミングのジョークをTinyLlamaに尋ねてみることもできます。
このように手軽にLLMをローカルで動かし、Pythonコードと完全に統合することにより、多様な用途に活用可能です。
出典 : Run Llama LLMs on your laptop with Hugging Face and Python | TheServerSide https://www.theserverside.com/video/Run-Llama-LLMs-on-your-laptop-with-Hugging-Face-and-Python
