TTN: A Domain-Shift Aware Batch Normalization in Test-Time Adaptation

要約

この論文では、テスト時間適応のための新しいバッチ正規化戦略を提案します。
最近のテスト時間の適応方法は、変更されたバッチ正規化、つまり、変換バッチ正規化 (TBN) に大きく依存しています。これは、ソース データから得られた移動平均と分散を使用するのではなく、現在のテスト バッチから平均と分散を計算します。
、従来のバッチ正規化 (CBN)。
テストバッチ統計を採用した TBN を採用することで、ドメイン移行によるパフォーマンス低下を軽減します。
ただし、テスト データを使用して正規化統計を再推定することは、テスト バッチが十分に大きく、i.i.d.
ストリー
このホワイト ペーパーでは、CBN と TBN がトレードオフの関係にあることを確認し、それぞれのドメイン シフト感度に従って CBN と TBN の間の重要性を調整することによって統計を補間する新しいテスト時間正規化 (TTN) メソッドを提示します。
BNレイヤー。
提案された TTN は、さまざまなバッチサイズとさまざまな現実的な評価シナリオで、シフトされたドメインに対するモデルの堅牢性を向上させます。
TTN は、バックプロパゲーションによるモデル パラメーターの更新に依存する他のテスト時間適応方法に広く適用できます。
TTN を採用すると、パフォーマンスがさらに向上し、さまざまな標準ベンチマークで最先端のパフォーマンスが達成されることを示しています。

要約(オリジナル)

This paper proposes a novel batch normalization strategy for test-time adaptation. Recent test-time adaptation methods heavily rely on the modified batch normalization, i.e., transductive batch normalization (TBN), which calculates the mean and the variance from the current test batch rather than using the running mean and variance obtained from the source data, i.e., conventional batch normalization (CBN). Adopting TBN that employs test batch statistics mitigates the performance degradation caused by the domain shift. However, re-estimating normalization statistics using test data depends on impractical assumptions that a test batch should be large enough and be drawn from i.i.d. stream, and we observed that the previous methods with TBN show critical performance drop without the assumptions. In this paper, we identify that CBN and TBN are in a trade-off relationship and present a new test-time normalization (TTN) method that interpolates the statistics by adjusting the importance between CBN and TBN according to the domain-shift sensitivity of each BN layer. Our proposed TTN improves model robustness to shifted domains across a wide range of batch sizes and in various realistic evaluation scenarios. TTN is widely applicable to other test-time adaptation methods that rely on updating model parameters via backpropagation. We demonstrate that adopting TTN further improves their performance and achieves state-of-the-art performance in various standard benchmarks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google