Ambarella社が開発したN1ビジョンSoCは、カメラからの画像解析を低消費電力で可能にするチップです。わずか50W未満の電力で複数のAIモデルを動かすことができ、その中にはLLaVA-34Bというモデルも含まれています。
また、同チップでは、16x 1080pのビデオチャンネルを用いた実行も可能です。Ambarellaは6つの異なるLLMを稼動させ、14個のCNNベースのビジョンモデルを利用し、幅広いユースケースをカバーしています。
さらにはGoogleのオープンLLM「Gemma」をわずか1週間で移植するなど、その柔軟性を証明しました。このチップが持つ多様な機能は、今後のAI技術発展に大きく寄与することでしょう。
出典 : 自動運転やロボティクスにマルチモーダルLLM適用を目指す https://eetimes.itmedia.co.jp/ee/articles/2410/10/news124_3.html