Reconciling a Centroid-Hypothesis Conflict in Source-Free Domain Adaptation

要約

ソースフリー ドメイン適応 (SFDA) は、ソース ドメインから学習した知識を、適応中にソース データが利用できないラベルのないターゲット ドメインに転送することを目的としています。
SFDA の既存のアプローチは、通常、十分に確立されたエントロピー最小化手法を含む自己トレーニングに重点を置いています。
SFDA の主な課題の 1 つは、ドメインの不整合によるエラーの蓄積を減らすことです。
最近の戦略では、表現空間でのクラスタリングによって生成されたクラスごとのプロトタイプ (セントロイド) に基づいてターゲット サンプルを疑似ラベル付けすることにより、エラーの蓄積をうまく減らすことができました。
ただし、この戦略では、疑似ラベルの交差エントロピーと最小エントロピーの目的が競合するケースも作成されます。
この競合を重心仮説競合と呼びます。
エントロピー最小化の目的を疑似ラベルの交差エントロピーの目的と一致させることにより、この矛盾を調整することを提案します。
3 つのドメイン適応データセットで 2 つの損失目標を調整することの有効性を示します。
さらに、最新のアーキテクチャを使用して最先端の結果を提供し、これらのアーキテクチャ全体での方法の一貫性も示しています。

要約(オリジナル)

Source-free domain adaptation (SFDA) aims to transfer knowledge learned from a source domain to an unlabeled target domain, where the source data is unavailable during adaptation. Existing approaches for SFDA focus on self-training usually including well-established entropy minimization techniques. One of the main challenges in SFDA is to reduce accumulation of errors caused by domain misalignment. A recent strategy successfully managed to reduce error accumulation by pseudo-labeling the target samples based on class-wise prototypes (centroids) generated by their clustering in the representation space. However, this strategy also creates cases for which the cross-entropy of a pseudo-label and the minimum entropy have a conflict in their objectives. We call this conflict the centroid-hypothesis conflict. We propose to reconcile this conflict by aligning the entropy minimization objective with that of the pseudo labels’ cross entropy. We demonstrate the effectiveness of aligning the two loss objectives on three domain adaptation datasets. In addition, we provide state-of-the-art results using up-to-date architectures also showing the consistency of our method across these architectures.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google