Learning Unbiased Transferability for Domain Adaptation by Uncertainty Modeling

要約

ドメインアダプテーション（DA）は、ラベル付けされたソースドメインから学習した知識を、ラベル付けされていない、またはラベル付けされていないが関連するターゲットドメインに転送することを目的としています。
理想的には、偏りのない知識の伝達を実現するために、ソースとターゲットの分布を互いに等しく調整する必要があります。
ただし、ソースドメインとターゲットドメインの注釈付きデータの量が大幅に不均衡であるため、通常はターゲット分布のみがソースドメインに合わせられ、不要なソース固有の知識をターゲットドメインに適応させます。つまり、偏ったドメイン適応になります。
この問題を解決するために、この作業では、ドメイン適応における転送可能性推定問題を掘り下げ、敵対者ベースのDAメソッドで弁別子の不確実性をモデル化してバイアスのない最適化を行うことにより、非侵入型のバイアスのない転送可能性推定プラグイン（UTEP）を提案します。
移行。
DAにおける偏りのない伝達可能性学習への提案されたアプローチの有効性を理論的に分析します。
さらに、不均衡な注釈付きデータの影響を軽減するために、ターゲットドメイン内のラベルなしサンプルの疑似ラベル選択に推定された不確実性を利用します。これにより、ドメイン間の周辺分布と条件付き分布のアライメントが向上します。
多種多様なDAベンチマークデータセットに関する広範な実験結果は、提案されたアプローチをさまざまな敵対者ベースのDA手法に容易に組み込み、最先端のパフォーマンスを実現できることを示しています。

要約(オリジナル)

Domain adaptation (DA) aims to transfer knowledge learned from a labeled source domain to an unlabeled or a less labeled but related target domain. Ideally, the source and target distributions should be aligned to each other equally to achieve unbiased knowledge transfer. However, due to the significant imbalance between the amount of annotated data in the source and target domains, usually only the target distribution is aligned to the source domain, leading to adapting unnecessary source specific knowledge to the target domain, i.e., biased domain adaptation. To resolve this problem, in this work, we delve into the transferability estimation problem in domain adaptation and propose a non-intrusive Unbiased Transferability Estimation Plug-in (UTEP) by modeling the uncertainty of a discriminator in adversarial-based DA methods to optimize unbiased transfer. We theoretically analyze the effectiveness of the proposed approach to unbiased transferability learning in DA. Furthermore, to alleviate the impact of imbalanced annotated data, we utilize the estimated uncertainty for pseudo label selection of unlabeled samples in the target domain, which helps achieve better marginal and conditional distribution alignments between domains. Extensive experimental results on a high variety of DA benchmark datasets show that the proposed approach can be readily incorporated into various adversarial-based DA methods, achieving state-of-the-art performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google