NECのCTO西原基夫氏は、大規模言語モデル（LLM）をスマートフォンで動かすための技術について発表しました。
こちらは、Qualcommの半導体を利用し、インターネットを経由せずに端末内で完結するシステムです。
これにより、ユーザーのプライバシーをより守りやすくなり、カスタマイズされたAIチャットの提供が可能になります。
特に注目すべきは、NECが展開する予定のLLM「cotomi（コトミ）」で、OpenAIの「GPT-3」よりもパラメータ数が少なく、高速で動作します。
この「小さいLLM」は賢さを保ちながら、データを選りすぐることで効率的に動作するとされています。
NECの研究では、この技術を用いて事故の原因をAIが言語で解説するなど、実用的な応用も進行中です。
出典 : https://xtech.nikkei.com/atcl/nxt/column/18/02754/022900009/