AI技術は急速に進化しており、いまや趣味や研究を超えて様々な分野で使われています。この進化の一端を担うのが、「大規模言語モデル(LLM)」です。ChatGPTやLlamaなど、誰でも使える軽量で高機能なモデルも登場しています。
ここでは、それらのモデルを自宅のPCで動かす方法を解説します。オンラインサービスとしてのAIにはセキュリティ上のリスクがあるため、個別に用意したデータで強化したり、インターネットに接続せずに使用するニーズがあります。このニーズを満たすのがローカルLLMです。
たとえば「Ollama」というソフトウェアを使えば、ウェブブラウザや専用のアプリから、独自の環境でLLMを操作できます。この記事では、LlamaやGemmaのようなモデルの設定や操作、Open WebUIでの使い方についても触れています。
日本語に特化したLLMも紹介されており、言語に応じて適切なモデルを選択することが大切です。ный
出典 : 第825回 ローカルLLMの実行ツールであるOllamaをUbuntuで動かす https://gihyo.jp/admin/serial/01/ubuntu-recipe/0825