巨大化するAIモデル、でも全員が使えるわけじゃない。次世代の深層学習モデルは、高価な設備がなくても動く。その秘密は「軽量化」。大きな教師モデルから、小さな生徒モデルへ知識を移す蒸留、余分な部分をそぎ落とす枝刈り、その他の技術がモデルをスリムにして、私たちの身近なデバイスでもAIを動かせる日が来る。
高い性能を保ったまま、どこでも使えるAI、それが「軽量化」の力なんです。
出典 : ローカルLLMで必要なモデルの軽量化、3つの手法を理解しよう https://xtech.nikkei.com/atcl/nxt/column/18/02920/082200005/
