Enhancing Continuous Domain Adaptation with Multi-Path Transfer Curriculum

要約

トレーニング データとテスト データの間の大きな分布ギャップに対処することは、機械学習における長年の課題であり、転移学習やドメイン適応などの分野が生まれました。
最近、連続ドメイン適応 (CDA) が効果的な手法として登場し、一連の中間ドメインを利用することでこのギャップを埋めています。
この論文は、これまでの研究で見落とされていたドメインの順序付けとエラーの蓄積の問題に厳密に対処する新しい CDA 手法である W-MPOT に貢献します。
具体的には、CDA の理論分析を動機として、Wasserstein 距離に基づいてソース領域と中間領域にわたる転移カリキュラムを構築します。
次に、継続的最適トランスポートの修正バージョンを使用して、カリキュラム内の複数の有効なパスを通じてソース モデルをターゲット ドメインに転送します。
双方向パスの一貫性制約は、連続転送中に蓄積されたマッピング エラーの影響を軽減するために導入されています。
当社は複数のデータセットで W-MPOT を広範囲に評価し、マルチセッションのアルツハイマー MR 画像分類で最大 54.1\% の精度向上と、バッテリー容量推定で 94.7\% の MSE 削減を達成しました。

要約(オリジナル)

Addressing the large distribution gap between training and testing data has long been a challenge in machine learning, giving rise to fields such as transfer learning and domain adaptation. Recently, Continuous Domain Adaptation (CDA) has emerged as an effective technique, closing this gap by utilizing a series of intermediate domains. This paper contributes a novel CDA method, W-MPOT, which rigorously addresses the domain ordering and error accumulation problems overlooked by previous studies. Specifically, we construct a transfer curriculum over the source and intermediate domains based on Wasserstein distance, motivated by theoretical analysis of CDA. Then we transfer the source model to the target domain through multiple valid paths in the curriculum using a modified version of continuous optimal transport. A bidirectional path consistency constraint is introduced to mitigate the impact of accumulated mapping errors during continuous transfer. We extensively evaluate W-MPOT on multiple datasets, achieving up to 54.1\% accuracy improvement on multi-session Alzheimer MR image classification and 94.7\% MSE reduction on battery capacity estimation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google