Dynamic Low-Rank Instance Adaptation for Universal Neural Image Compression

要約

ニューラル画像圧縮の最新の進歩は、従来の標準コーデックのレート歪み性能を超える大きな可能性を示しています。
それにもかかわらず、トレーニングに利用されるデータセット (自然画像など) と推論に利用されるデータセット (芸術的画像など) の間には、消すことのできない領域のギャップが存在します。
私たちの提案には、ドメイン外のデータセットで観察されるレート歪みの低下に対処することを目的とした低ランク適応アプローチが含まれます。
具体的には、低ランク行列分解を実行して、クライアントのデコーダの特定の適応パラメータを更新します。
これらの更新されたパラメータは、画像の潜在情報とともにビットストリームにエンコードされ、実際のシナリオではデコーダに送信されます。
適応パラメータに低ランクの制約が課されるため、結果として生じるビット レートのオーバーヘッドは小さくなります。
さらに、多様な入力がさまざまな適応ビットストリームを必要とすることを考慮すると、低ランク適応のビットレート割り当ては \emph{非自明} です。
したがって、どのデコーダ層が適応を採用すべきかを決定するために、低ランク適応方法の上に動的ゲーティングネットワークを導入します。
動的適応ネットワークは、レート歪み損失を使用してエンドツーエンドで最適化されます。
私たちが提案する手法は、多様な画像データセットにわたって普遍性を示します。
広範な結果は、このパラダイムがドメイン ギャップを大幅に軽減し、ドメイン外の画像全体で平均 BD レートが約 $19\%$ 向上し、非適応型手法を上回っていることを示しています。
さらに、最も高度なインスタンス適応メソッドよりも約 $5\%$ BD レートのパフォーマンスが優れています。
アブレーション研究により、さまざまな画像圧縮アーキテクチャを普遍的に強化する私たちの方法の能力が確認されています。

要約(オリジナル)

The latest advancements in neural image compression show great potential in surpassing the rate-distortion performance of conventional standard codecs. Nevertheless, there exists an indelible domain gap between the datasets utilized for training (i.e., natural images) and those utilized for inference (e.g., artistic images). Our proposal involves a low-rank adaptation approach aimed at addressing the rate-distortion drop observed in out-of-domain datasets. Specifically, we perform low-rank matrix decomposition to update certain adaptation parameters of the client’s decoder. These updated parameters, along with image latents, are encoded into a bitstream and transmitted to the decoder in practical scenarios. Due to the low-rank constraint imposed on the adaptation parameters, the resulting bit rate overhead is small. Furthermore, the bit rate allocation of low-rank adaptation is \emph{non-trivial}, considering the diverse inputs require varying adaptation bitstreams. We thus introduce a dynamic gating network on top of the low-rank adaptation method, in order to decide which decoder layer should employ adaptation. The dynamic adaptation network is optimized end-to-end using rate-distortion loss. Our proposed method exhibits universality across diverse image datasets. Extensive results demonstrate that this paradigm significantly mitigates the domain gap, surpassing non-adaptive methods with an average BD-rate improvement of approximately $19\%$ across out-of-domain images. Furthermore, it outperforms the most advanced instance adaptive methods by roughly $5\%$ BD-rate. Ablation studies confirm our method’s ability to universally enhance various image compression architectures.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google