近年AIの分野で注目を集めているのがトランスフォーマーという技術です。
この技術はもともと言語処理のために開発されましたが、今では画像認識など他のAI領域にも影響を与え始めています。
トランスフォーマーは、データの全要素が互いに関連付けられるため、トレーニング時からデータセット全体の傾向を捉えることができます。
この特徴により、過去には異なるモデルが必要だった処理も、トランスフォーマーによって一つに統合される可能性が出てきました。
例えば、ビジョン・トランスフォーマー(ViT)は画像を認識するために開発されたモデルで、画像を高い精度で分類することが可能です。
ViTは90%以上の精度で画像を認識し、従来の畳み込みニューラルネットワーク(CNN)を上回る結果を示しました。
さらにトランスフォーマーは生成モデルとしても機能し、新たな画像を創出することにも成功しています。
AIが複数のデータタイプを同時に処理する多モーダル処理にも適用される日も近いでしょう。
トランスフォーマーの広がりにより、AI技術はますます統合的なアプローチへと進化しています。
出典 : Will Transformers Take Over Artificial Intelligence? https://www.quantamagazine.org/will-transformers-take-over-artificial-intelligence-20220310/