DuoAttention: Efficient Long-Context LLM Inference with Retrieval and Streaming Heads

要約

ロングコンテキストの大規模言語モデル (LLM) のデプロイは不可欠ですが、計算とメモリに重大な課題が生じます。
すべてのアテンション ヘッドにわたってすべてのキーと値 (KV) 状態をキャッシュすると、大量のメモリが消費されます。
既存の KV キャッシュ プルーニング手法は、LLM のロングコンテキスト機能を損なうか、限られた効率改善しか提供しません。
この論文では、アテンション ヘッド (別名検索ヘッド) の一部のみが長いコンテキストの処理に重要であり、すべてのトークンにわたって完全なアテンションを必要とすることを特定します。
対照的に、他のすべてのヘッドは主に最近のトークンとアテンション シンクに焦点を当てており、ストリーミング ヘッドと呼ばれますが、完全な注意を必要としません。
この洞察に基づいて、ストリーミング ヘッドには軽量で一定長の KV キャッシュを使用しながら、取得ヘッドには完全な KV キャッシュのみを適用するフレームワークである DuoAttend を導入します。これにより、LLM のデコードと事前充填メモリとレイテンシの両方が削減されます。
長いコンテキストの能力が損なわれます。
DuoAttention は、合成データを使用した軽量の最適化ベースのアルゴリズムを使用して、取得ヘッドを正確に識別します。
私たちの手法は、ロングコンテキスト推論メモリを MHA モデルで最大 2.55 倍、GQA モデルで 1.67 倍大幅に削減すると同時に、デコードを最大 2.18 倍と 1.50 倍高速化し、事前充填を MHA モデルで最大 1.73 倍と 1.63 倍高速化します。
それぞれ、GQA モデルは、完全に注意を払った場合と比較して、精度の損失が最小限に抑えられます。
特に、量子化と組み合わせて、DuoAttend を使用すると、単一の A100 GPU で 330 万コンテキスト長の Llama-3-8B デコードが可能になります。
コードは https://github.com/mit-han-lab/duo-attention で提供されます。

要約(オリジナル)

Deploying long-context large language models (LLMs) is essential but poses significant computational and memory challenges. Caching all Key and Value (KV) states across all attention heads consumes substantial memory. Existing KV cache pruning methods either damage the long-context capabilities of LLMs or offer only limited efficiency improvements. In this paper, we identify that only a fraction of attention heads, a.k.a, Retrieval Heads, are critical for processing long contexts and require full attention across all tokens. In contrast, all other heads, which primarily focus on recent tokens and attention sinks–referred to as Streaming Heads–do not require full attention. Based on this insight, we introduce DuoAttention, a framework that only applies a full KV cache to retrieval heads while using a light-weight, constant-length KV cache for streaming heads, which reduces both LLM’s decoding and pre-filling memory and latency without compromising its long-context abilities. DuoAttention uses a lightweight, optimization-based algorithm with synthetic data to identify retrieval heads accurately. Our method significantly reduces long-context inference memory by up to 2.55x for MHA and 1.67x for GQA models while speeding up decoding by up to 2.18x and 1.50x and accelerating pre-filling by up to 1.73x and 1.63x for MHA and GQA models, respectively, with minimal accuracy loss compared to full attention. Notably, combined with quantization, DuoAttention enables Llama-3-8B decoding with 3.3 million context length on a single A100 GPU. Code is provided in https://github.com/mit-han-lab/duo-attention.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google