Microsoftが検索エンジン「Bing」の技術を大幅に進化させました。従来の「Transformer」という機械学習モデルに変わり、新たに大規模言語モデル「LLM」と小規模言語モデル「SLM」を組み合わせることで、より複雑な検索クエリに対応。
さらに、NVIDIAが開発した「TensorRT-LLM」という技術を導入し、検索結果の表示速度を速めると共に、運用コストを削減しています。これにより、ユーザーはスムーズで効率的な検索体験を享受できるようになりました。
Microsoftはこの技術革新を進めることで、検索性能の向上を目指し、将来のさらなる改良に期待を膨らませています。
出典 : Microsoftの検索エンジンBingがTransformerからLLMとSLMの組み合わせに移行＆TensorRT-LLMの統合を発表 https://gigazine.net/news/20241218-bing-transition-tensorrt-llm/
