Googleの研究チームが、AIが無限に長いテキストを処理できる画期的な技術「Infini-attention」を開発しました。これまでAIは、「コンテキストウインドウ」と呼ばれる限られたトークン量しか扱えないという制約がありました。例えば、ChatGPTではやり取りが一定量を超えると、初期の会話が忘れられてしまう問題がありました。
しかし、Infini-attentionはこれを解決し、限られたメモリと計算資源下でもより長いテキストを理解できるようにします。実験では、1Mトークンに及ぶ長大な問題を解決し、メモリサイズ比で114倍の理解率を実現。Googleはこれによって、より複雑で長文のトピックも扱えるようになり、AI技術の新たな可能性を切り開くとしています。
高校生でも理解できるように簡単に言うと、AIがもっと長い内容の話もちゃんと理解して応答できるようになるということです。
出典 : https://article.auone.jp/detail/1/3/7/48_7_r_20240415_1713163572067087