AI技術は驚異的な速さで進化し、私たちの生活やビジネスに革命をもたらしています。特に注目されるのが、生成AIと大規模言語モデル（LLM）です。
LLMは、巨大なデータベースから学ぶことで自然言語を理解し、個々の要求に応じた的確な回答や文章を生成します。この技術は、事前学習という過程を通じて汎用的な知識を獲得しており、限られた例を基に特定のタスクを解決する能力を持っています。
最先端のモデル「Sarashina2」は、大量の日本語データを活用して細やかな学習を行っています。しかし、そのままでは特定分野での応用が困難なため、ファインチューニングという手法で特定タスクに特化させます。
さらに、ユーザーが出力をより好ましいものにカスタマイズできるプレファレンスチューニングも開発されています。この進化するAI技術が私たちの未来をどのように変えるのか、期待が膨らむばかりです。
出典 : 押さえておきたいLLM用語の基礎解説 第3回 学習率・事前学習・クリーニング・ファインチューニング・インストラクションチューニング・プレファレンスチューニング（2024年10月29日）｜ https://news.biglobe.ne.jp/it/1029/mnn_241029_4923456634.html