大規模言語モデル（LLM）の長文脈推論において、メモリ効率は実用化の大きな課題となっています。特にキー・バリュー（KV）キャッシュはメモリボトルネックとなるため、その圧縮技術の開発が急務です。既存の訓練不要なアプローチには二つの主流な手法がありますが、両者には根本的な限界があります。 トークン選択型の手法（SnapKVやAda-KV）は観測ウィンドウ内でトークンの重要度をスコアリングし、低スコアのトークンを削除します。しかし、この削除は不可逆的であり、クエリに依存しない再利用時に重要度信号が劣化すると、精度は11～15ポイント低下してしまいます。一方、均一な低ランク符号化はすべてのトークンを保持しますが、全体に同じランク配分をするため予算を無駄に消費します。 研究チームが開発したVarRateは、これら両アプローチの問題を統一的に解決する訓練不要なKVコーデックです。各トークンに対してクエリ顕著性に基づいて可変的な低ランク予算を割り当て、すべてのトークンをゼロ以上のランクで保持することが特徴です。従来の適応的ランク割り当てコーデックはこうした配分を訓練を通じてのみ実現していましたが、VarRateは訓練を一切必要としません。 トークン削除がないため、クエリ依存型選択が精度11～15ポイントで崩壊する状況でも、VarRateは3.5～5.5ポイントの低下に抑えられます。LongBench（16タスク）で20%の予算制約下では、Llama-3.1-8BおよびQwen2.5-7B両モデルで非圧縮モデルから0.8ポイント以内の精度を維持し、両者の平均において最強のメモリ効率型圧縮手法となっています。