プライバシーを重視し、自由にカスタム可能で、大企業に左右されないAIモデルを自宅のPCで動作させることができます。GPUに乏しい私たちにとって、AIコンピュータは高価な夢に思えますが、300ドルでも有能なAIコンピュータは手に入ります。ただし、モニターやキーボード、マウスを用意し、Linux OSの扱いに慣れる必要があります。
高価なMacbookやNvidiaのGPUに代わり、300ドルのAMDベースミニPCでも言語モデルや画像生成が可能に。AI実行にはGPUよりCPUが重要で、llama.cppというソフトウェアを使用して高速に動作させることができます。ただし、画像生成にはGPUが必要ですが、家庭用コンピュータの内蔵GPUで充分です。
BIOSの設定やAMD ROCmのドライバインストールなどの準備作業を行った後、実際に大言語モデルを動かすことができ、Stable Diffusionを用いた画像生成も可能です。オープンソースのAIモデルを自宅で動かすことは、個人のデータ保護を保ちつつ、これまでにないスマートなアプリケーションの開発を可能にします。
出典 : How to Build a $300 AI Computer for the GPU-Poor | HackerNoon https://hackernoon.com/how-to-build-a-$300-ai-computer-for-the-gpu-poor
