新時代のコンピュータ「Raspberry Pi 5」が登場し、先進的な技術を使ってAIチャットアプリの開発が可能になりました。限られた性能のなかで、小型ながらも力を発揮する「TinyLlama-1.1B-Chat-v1.0」を通して、
AIの世界を体験できます。ラズパイ5では、RAMは4GBのモデルを使用し、TinyLlamaのパラメータ数の少なさから、コンピュータの激しい発熱にも耐える冷却が要求されるものの、
実際にチャットAIとして使えるレベルで運用することができます。「TinyLlama」の性能は基本的な会話には対応し、これからのAIを学びたい人にも最適なツールと言えるでしょう。
出典 : ラズパイ5でLLMを動かしてみよう、チャットAIのGUIアプリを作成 https://xtech.nikkei.com/atcl/nxt/column/18/02920/082200004/
