Redis社は、その名を冠したインメモリ型のキーバリューデータベースで注目されていますが、ライセンス変更によるValkeyプロジェクト発足の話題から一新、5月1日に予定されているRedis 8の発表に先立ち、AIに特化した2つの新製品を発表しました。その一つが、大規模言語モデル(LLM)の応答をキャッシュする新しいツールであるLangCacheで、開発者はアプリケーションにLLMの応答キャッシングを取り入れることができます。
もう一つは、ベクトル埋め込みを保存し照会するための新しいデータ型「ベクトルセット」の導入です。これにより、他のベクトルデータベースと比較して、処理速度の大幅な向上が期待されています。
RedisのCEO、Rowan Trollope氏は、RedisはAIアプリケーションの短期記憶層となり得ると述べており、性能重視かつ開発者向けに使いやすいAPIを理由として、短期記憶としての地位を確立したい考えです。
性能という点では、Redisはこれまでにも開発者によって広く利用されてきたキャッシュソリューションです。しかし、新たなAI時代に向けて、すべてのアプリがエージェント指向で作り直される今、Redisは新しい使い方で開発者に受け入れられる可能性が高まっています。
出典 : Redis Launches Vector Sets and a New Tool for Semantic Caching of LLM Responses https://thenewstack.io/redis-launches-vector-sets-and-a-new-tool-for-semantic-caching-of-llm-responses/