Navigating Beyond Dropout: An Intriguing Solution Towards Generalizable Image Super Resolution

要約

ディープラーニングは近年、単一画像超解像（Single Image Super-Resolution：SISR）の性能を飛躍的に向上させた。既存の研究のほとんどは、単純で固定された劣化モデル（例えば、バイキュービックダウンサンプリング）を想定しているが、Blind SRの研究は、未知の劣化を伴うモデルの汎化能力を向上させようとしている。最近、Kongらは、Dropoutを用いたBlind SRのより適切な学習戦略の研究を開始した。このような方法は、確かにオーバーフィッティングを緩和することで汎化能力の大幅な向上をもたらすが、我々は、ドロップアウトは同時に、モデルの細かいディテールを忠実に再構成する能力を損なう望ましくない副作用をもたらすと主張する。本論文では、理論的解析と実験的解析の両方を示し、さらに、1次特徴量と2次特徴量の統計量を変化させるだけで、モデルの汎化能力を向上させる、簡単かつ効果的な別の学習戦略を示す。実験の結果、我々の手法はモデルに依存しない正則化として機能し、合成と実世界のシナリオの両方を含む7つのベンチマークデータセットにおいて、Dropoutを上回る性能を持つことが示された。

要約(オリジナル)

Deep learning has led to a dramatic leap on Single Image Super-Resolution (SISR) performances in recent years. %Despite the substantial advancement% While most existing work assumes a simple and fixed degradation model (e.g., bicubic downsampling), the research of Blind SR seeks to improve model generalization ability with unknown degradation. Recently, Kong et al pioneer the investigation of a more suitable training strategy for Blind SR using Dropout. Although such method indeed brings substantial generalization improvements via mitigating overfitting, we argue that Dropout simultaneously introduces undesirable side-effect that compromises model’s capacity to faithfully reconstruct fine details. We show both the theoretical and experimental analyses in our paper, and furthermore, we present another easy yet effective training strategy that enhances the generalization ability of the model by simply modulating its first and second-order features statistics. Experimental results have shown that our method could serve as a model-agnostic regularization and outperforms Dropout on seven benchmark datasets including both synthetic and real-world scenarios.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL