QUICK: Quantization-aware Interleaving and Conflict-free Kernel for efficient LLM inference

要約

量子化された大規模言語モデル (LLM) を効率的に推論するための、新しく最適化された CUDA カーネルのグループである QUICK を紹介します。
QUICK は、最先端の混合精度行列乗算カーネルの共有メモリ バンク競合問題に対処します。
私たちの方法では、LLM の量子化された重み行列をオフラインでインターリーブし、逆量子化後の共有メモリの書き戻しをスキップします。
大規模なバッチでは AutoAWQ の既存のカーネルと比較して最大 1.91 倍の高速化、およびさまざまな NVIDIA GPU デバイス上の代表的な LLM モデルでは最大 1.94 倍のスループット向上を実証します。

要約(オリジナル)

We introduce QUICK, a group of novel optimized CUDA kernels for the efficient inference of quantized Large Language Models (LLMs). QUICK addresses the shared memory bank-conflict problem of state-of-the-art mixed precision matrix multiplication kernels. Our method interleaves the quantized weight matrices of LLMs offline to skip the shared memory write-back after the dequantization. We demonstrate up to 1.91x speedup over existing kernels of AutoAWQ on larger batches and up to 1.94x throughput gain on representative LLM models on various NVIDIA GPU devices.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google