Robust Mean Teacher for Continual and Gradual Test-Time Adaptation

要約

実際には、テスト時間中にドメイン シフトが発生することは避けられないため、テスト時間適応 (TTA) は、展開中にモデルを適応させ続けます。
最近、継続的かつ段階的なテスト時間適応 (TTA) の領域が出現しました。
標準的な TTA とは対照的に、継続的な TTA では、単一のドメイン シフトだけでなく、一連のシフトも考慮されます。
漸進的な TTA は、一部のシフトが時間の経過とともに徐々に進化するという特性をさらに活用します。
どちらの設定でも長いテスト シーケンスが存在するため、セルフ トレーニングに依存する方法ではエラーの蓄積に対処する必要があります。
この作業では、TTA の設定では、一般的に使用されるクロス エントロピーと比較して、対称クロス エントロピーが平均教師の整合性損失としてより適していることを提案し、示します。
これは、（対称）クロスエントロピーの勾配特性に関する分析によって正当化されます。
テスト特徴空間を、事前トレーニング済みモデルが適切に設定されているソース ドメインに近づけるために、対照学習が活用されます。
アプリケーションは要件が異なるため、さまざまな設定に対処します。つまり、ソース データを利用できるようにすることと、より困難なソースなしの設定を行うことです。
継続的および段階的な破損ベンチマーク CIFAR10C、CIFAR100C、および Imagenet-C で、提案された方法「ロバスト ミーン ティーチャー」(RMT) の有効性を示します。
さらに ImageNet-R を検討し、新しい継続的な DomainNet-126 ベンチマークを提案します。
すべてのベンチマークで最先端の結果が達成されています。

要約(オリジナル)

Since experiencing domain shifts during test-time is inevitable in practice, test-time adaption (TTA) continues to adapt the model during deployment. Recently, the area of continual and gradual test-time adaptation (TTA) emerged. In contrast to standard TTA, continual TTA considers not only a single domain shift, but a sequence of shifts. Gradual TTA further exploits the property that some shifts evolve gradually over time. Since in both settings long test sequences are present, error accumulation needs to be addressed for methods relying on self-training. In this work, we propose and show that in the setting of TTA, the symmetric cross-entropy is better suited as a consistency loss for mean teachers compared to the commonly used cross-entropy. This is justified by our analysis with respect to the (symmetric) cross-entropy’s gradient properties. To pull the test feature space closer to the source domain, where the pre-trained model is well posed, contrastive learning is leveraged. Since applications differ in their requirements, we address different settings, namely having source data available and the more challenging source-free setting. We demonstrate the effectiveness of our proposed method ‘robust mean teacher’ (RMT) on the continual and gradual corruption benchmarks CIFAR10C, CIFAR100C, and Imagenet-C. We further consider ImageNet-R and propose a new continual DomainNet-126 benchmark. State-of-the-art results are achieved on all benchmarks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google