Balanced Rate-Distortion Optimization in Learned Image Compression

要約

学習した画像圧縮（LIC）深い学習アーキテクチャを使用すると、大きな進歩が見られますが、標準のレート耐性（R-D）最適化は、レートと歪みの目標の多様な勾配により、不均衡な更新に遭遇することがよくあります。
この不均衡は、1つの目的が支配する最適ではない最適化につながる可能性があり、それにより全体的な圧縮効率が低下します。
この課題に対処するために、R-Dの最適化を多目的最適化（MOO）問題として再定式化し、勾配更新を適応的に調整してレートと歪みの両方でより公平な改善を実現する2つのバランスのとれたR-D最適化戦略を導入します。
最初に提案された戦略は、標準のR-D最適化軌跡に沿って粗から洗練された勾配降下アプローチを利用しているため、LICモデルをゼロからトレーニングするのに特に適しています。
2番目の提案された戦略は、既存のモデルを微調整するのに理想的な、平等制約を備えた2次プログラミングの問題として、再定式化された最適化を分析的に対処します。
実験結果は、両方の提案された方法がLICモデルのR-Dパフォーマンスを強化し、許容可能な追加トレーニングコストで約2 \％BDレート削減を達成し、よりバランスのとれた効率的な最適化プロセスにつながることを示しています。
コードは公開されます。

要約(オリジナル)

Learned image compression (LIC) using deep learning architectures has seen significant advancements, yet standard rate-distortion (R-D) optimization often encounters imbalanced updates due to diverse gradients of the rate and distortion objectives. This imbalance can lead to suboptimal optimization, where one objective dominates, thereby reducing overall compression efficiency. To address this challenge, we reformulate R-D optimization as a multi-objective optimization (MOO) problem and introduce two balanced R-D optimization strategies that adaptively adjust gradient updates to achieve more equitable improvements in both rate and distortion. The first proposed strategy utilizes a coarse-to-fine gradient descent approach along standard R-D optimization trajectories, making it particularly suitable for training LIC models from scratch. The second proposed strategy analytically addresses the reformulated optimization as a quadratic programming problem with an equality constraint, which is ideal for fine-tuning existing models. Experimental results demonstrate that both proposed methods enhance the R-D performance of LIC models, achieving around a 2\% BD-Rate reduction with acceptable additional training cost, leading to a more balanced and efficient optimization process. The code will be made publicly available.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google