大規模言語モデル（LLMs）はAI技術に革命をもたらしましたが、その計算能力とエネルギー消費の増加が問題となっています。
Microsoftの研究者たちは、この問題への意外な解決策として、1.58ビットあたりの重みで動作するLLM「BitNet」を発表しました。
この技術は、エネルギー使用量とメモリ要件を大幅に削減しながら、コアパフォーマンスを犠牲にしません。
BitNetはシンプルな計算と精度の低下を使いながら、複雑なタスクをこなし、高い精度を維持しており、大量の計算リソースを必要とする従来のモデルよりもエネルギー効率がよいです。
さらに、BitNetは標準的なCPUでも高性能を発揮し、高価でエネルギーを多く消費するGPUを必要としません。
この革新的な技術は、省エネルギーで手頃な価格のAIをもたらし、スマートフォンやウェアラブルテクノロジー、さらには産業用IoTシステムなど、日常のデバイスにAIを活用する新たな可能性を開くかもしれません。
しかし、非常に大規模な言語モデルを置き換えるわけではなく、より多くの人々を強化するために高効率な低精度AIモデルが期待されています。
これが我々が築くべき将来でなくてはならないでしょう。
出典 : 1-bit LLM from Microsoft Rivals LLaMA in CPU Efficiency https://www.electropages.com/blog/2025/05/microsoft-demonstrates-1-bit-llm-performance-greater-similar-llama
