2024年2月、Googleが新たな言語モデル「Gemini 1.5」を発表しました。その特徴の一つが、12万8000トークンという大容量のロングコンテキストウィンドウです。コンテキストウィンドウには、AIが一度に処理可能なデータ量が示されるため、これによりAIはより多くの情報を記憶できます。
これは特にチャットbotなどで顕著で、対話中の情報を途中で忘れる問題が発生しがちですが、ロングコンテキストウィンドウのおかげでその問題が解消されることが期待されます。さらに、「Gemini 1.5 Pro」では、最大100万トークンの取扱いが可能になり、研究ではさらに多い1000万トークンのテストも成功しています。この進化により、AIはさまざまなテキストやメディアをよりよく理解し、処理することが可能になったのです。
出典 : https://atmarkit.itmedia.co.jp/ait/articles/2403/14/news072.html