Persistent Test-time Adaptation in Episodic Testing Scenarios

要約

現在のテスト時間適応 (TTA) アプローチは、継続的に変化する環境に適応することを目的としています。
しかし、昼夜の監視カメラのように、環境が変化するだけでなく、時間の経過とともに相関的に再発する場合、これらの手法の適応性が長期間実行後に維持されるかどうかは不明です。
この研究は、TTA モデルが以前のテスト環境に繰り返しさらされたときのエラーの蓄積を調査することを目的としており、エピソード TTA と呼ばれる新しいテスト設定を提案しています。
この現象を研究するために、単純だが代表的な $\epsilon$ 摂動ガウス混合モデル分類器上で TTA プロセスのシミュレーションを設計し、TTA 手法の段階的な劣化に寄与するデータセットとアルゴリズムに依存する要因を明らかにする理論的知見を導き出します。
時を経て。
私たちの調査により、永続的 TTA (PeTTA) と呼ばれる方法が提案されました。
PeTTA は崩壊に向けたモデルの乖離を感知し、TTA の適応戦略を調整して、適応とモデル崩壊の防止という 2 つの主な目的の間のバランスをとります。
一時的な TTA シナリオに直面した場合の PeTTA の安定性は、さまざまなベンチマークに関する一連の包括的な実験を通じて実証されています。

要約(オリジナル)

Current test-time adaptation (TTA) approaches aim to adapt to environments that change continuously. Yet, when the environments not only change but also recur in a correlated manner over time, such as in the case of day-night surveillance cameras, it is unclear whether the adaptability of these methods is sustained after a long run. This study aims to examine the error accumulation of TTA models when they are repeatedly exposed to previous testing environments, proposing a novel testing setting called episodic TTA. To study this phenomenon, we design a simulation of TTA process on a simple yet representative $\epsilon$-perturbed Gaussian Mixture Model Classifier and derive the theoretical findings revealing the dataset- and algorithm-dependent factors that contribute to the gradual degeneration of TTA methods through time. Our investigation has led us to propose a method, named persistent TTA (PeTTA). PeTTA senses the model divergence towards a collapsing and adjusts the adaptation strategy of TTA, striking a balance between two primary objectives: adaptation and preventing model collapse. The stability of PeTTA in the face of episodic TTA scenarios has been demonstrated through a set of comprehensive experiments on various benchmarks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google