Operaブラウザーが新たな境地を開きました。今回Opera Softwareは、ブラウザーを使った新しいAI体験、すなわち「AI Feature Drops Program」の一環として開発された「ローカルLLM」を提供開始しました。
このプログラムでは、インターネットを介さずにデバイス上のみで大規模言語モデル（LLM）を動かせるので、オフラインでも利用可能です。またプライバシーにも配慮されており、利用するにはOpera Oneの最新版にアップグレードし、設定からモデルを選び、ダウンロードするだけです。
紹介されたLLMの中には、プログラミングのコード生成に特化した「Code Llama」や、自然言語処理タスクに幅広く対応する「Mixtral」などがあり、使い勝手は幅広いです。
ただし、その性能は利用するハードウェアに左右され、オンラインのサーバーベースよりはやや遅くなる可能性もあるため注意が必要です。
これは、プライバシーを重視し、かつ日常のウェブ体験に新しい風を吹き込もうとするInitiativeです。
出典 : https://japan.zdnet.com/article/35217320/