グローバルなオープンソースコミュニティのおかげで、今やパーソナルラップトップやCPUベースのサーバーで高性能な大規模言語モデル（LLM）を実行し、洗練されたグラフィカルユーザーインターフェイスを通じて容易に対話できるようになりました。
これは特に、データを第三者に送信するサービスの使用が禁じられている、または望まない全ての組織にとって価値があります。
このチュートリアルでは、わずか4ステップで簡単にローカルLLMを設定し、ChatGPTのようなUIと対話する方法を紹介します。プリークイズソフトウェアがインストールされている場合は、作業に15分もかかりません（いくつかのステップで使用されるコンピュータ処理時間は除く）。
まずHuggingfaceのLLMを選択し、モデルを量子化してOllamaソフトウェアフレームワークで実行し、最後にGUIを設定して対話するという流れです。
すべてはオープンソースの素晴らしさのおかげです。GitHubリポジトリのリンクを使って、すぐに始めましょう。
出典 : Set up a local LLM on CPU with chat UI in 15 minutes https://towardsdatascience.com/set-up-a-local-llm-on-cpu-with-chat-ui-in-15-minutes-4cdc741408df