エヌビディアが開催した開発者会議で注目を集めたのは、「AIの変革」と称されるトランスフォーマーを解説するセッションでした。
このアーキテクチャーは、言語を扱う自然言語処理の性能を劇的に向上させ、「文脈の中で重要な単語に注目する」ことを可能にしました。
また、データが大きくなるほど精度が向上する特徴を持ち、AI技術の大幅な進歴を促しました。
DeNAの清水遼平氏は、トランスフォーマーなしには現在のAIの発展はなかったと述べています。
この技術は、今日のAI生成モデルに欠かせず、GPTやBERTなどの有名なAIもその恩恵を受けています。
出典 : https://xtech.nikkei.com/atcl/nxt/mag/nc/18/060400424/060400004/