Is Generative Modeling-based Stylization Necessary for Domain Adaptation in Regression Tasks?

要約

教師なしドメイン適応（UDA）は、ターゲットドメインラベルがない場合に、2つの主要な技術、すなわち入力レベルアライメント（生成モデリングや様式化など）と特徴レベルアライメント（勾配反転層などの特徴マップの分布に合わせる）を用いてソースとターゲットドメインの間のギャップを埋めることを目的としています。画像分類における生成モデリングの成功から動機づけられ、最近、姿勢推定のような回帰タスクのために様式化ベースの手法が提案された。しかし、生成モデリングと定型化によって入力レベルのアライメントを使用すると、追加のオーバーヘッドと計算量が発生するため、実世界のDAタスクでの使用は制限されます。DAにおける入力レベルのアライメントの役割を調査するために、我々は以下の質問をする：回帰における視覚領域適応に、生成モデリングに基づくスタイル化は必要なのか？驚くべきことに、回帰タスクでは、分類と比較して、入力アライメントがほとんど影響を及ぼさないことがわかった。これらの知見に基づき、我々はノンパラメトリックな特徴量レベルのドメインアライメント手法（Implicit Stylization (ImSty)）を開発し、計算量の多いスタイライゼーションや生成的モデリングを必要とせず、SOTA回帰タスクに対して一貫した改善をもたらすことが分かった。我々の研究は、生成的モデリングとスタイライゼーションの役割を批判的に評価するものであり、ドメイン汎化のためにこれらが人気を集めている時期である。

要約(オリジナル)

Unsupervised domain adaptation (UDA) aims to bridge the gap between source and target domains in the absence of target domain labels using two main techniques: input-level alignment (such as generative modeling and stylization) and feature-level alignment (which matches the distribution of the feature maps, e.g. gradient reversal layers). Motivated from the success of generative modeling for image classification, stylization-based methods were recently proposed for regression tasks, such as pose estimation. However, use of input-level alignment via generative modeling and stylization incur additional overhead and computational complexity which limit their use in real-world DA tasks. To investigate the role of input-level alignment for DA, we ask the following question: Is generative modeling-based stylization necessary for visual domain adaptation in regression? Surprisingly, we find that input-alignment has little effect on regression tasks as compared to classification. Based on these insights, we develop a non-parametric feature-level domain alignment method — Implicit Stylization (ImSty) — which results in consistent improvements over SOTA regression task, without the need for computationally intensive stylization and generative modeling. Our work conducts a critical evaluation of the role of generative modeling and stylization, at a time when these are also gaining popularity for domain generalization.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL