M5Stackが、クラウドを使用せずにプライバシーを保護する、AI搭載の新しいモジュール「M5Stack LLM Module」を発表しました。このモジュールは、スマートホームや音声アシスタント、産業制御システム向けに、
効率的でスムーズな人工知能体験を可能にします。Linux Gizmosによると、Axera AX630Cチップを搭載し、NPUは3.2 TOPS(INT8精度)の処理能力を持つハードウェアです。
記憶容量はNPU専用に3GB、オペレーティングシステム用に1GBを備えており、32GBのeMMCモジュールにはUbuntu Linuxがプリロードされています。
小型の大容量言語モデルを端末上で実行し、消費電力は1.5Wと非常に低いです。
さらに、マイクロSDカードスロット経由でアップグレードが可能です。
マイクロフォン、スピーカー、カメラ接続支援等もあり、専用のデバッグキットも発売予定です。価格は49.90ドルで、現時点では在庫切れとなっています。
出典 : M5Stack Adds Large Language Model Support to Its Offerings with the 3.2 TOPS LLM Module https://www.hackster.io/news/m5stack-adds-large-language-model-support-to-its-offerings-with-the-3-2-tops-llm-module-f0a4e061f0de