Generalizing to Unseen Domains with Wasserstein Distributional Robustness under Limited Source Knowledge

要約

ドメインの一般化は、複数のソースドメインからの知識を取り入れて、目に見えないターゲットドメインでうまく機能するユニバーサルモデルを学習することを目的としています。
この調査では、ドメイン間で異なるクラスの条件付き分布間で異なるドメインシフトが発生するシナリオを検討します。
ソースドメインのラベル付きサンプルが制限されている場合、既存のアプローチは十分に堅牢ではありません。
この問題に対処するために、分布的にロバストな最適化の概念に触発された、Wasserstein Distributionally Robust Domain Generalization(WDRDG)と呼ばれる新しいドメイン一般化フレームワークを提案します。
クラス固有のWasserstein不確実性セット内の条件付き分布に対するロバスト性を推奨し、これらの不確実性セットに対する分類器の最悪の場合のパフォーマンスを最適化します。
さらに、最適なトランスポートを活用して、見えないターゲットドメインとソースドメイン間の関係を定量化し、ターゲットデータの適応推論を行うテスト時間適応モジュールを開発します。
回転MNIST、PACS、およびVLCSデータセットでの実験は、私たちの方法が、困難な一般化シナリオでの堅牢性と識別可能性のバランスを効果的にとることができることを示しています。

要約(オリジナル)

Domain generalization aims at learning a universal model that performs well on unseen target domains, incorporating knowledge from multiple source domains. In this research, we consider the scenario where different domain shifts occur among conditional distributions of different classes across domains. When labeled samples in the source domains are limited, existing approaches are not sufficiently robust. To address this problem, we propose a novel domain generalization framework called Wasserstein Distributionally Robust Domain Generalization (WDRDG), inspired by the concept of distributionally robust optimization. We encourage robustness over conditional distributions within class-specific Wasserstein uncertainty sets and optimize the worst-case performance of a classifier over these uncertainty sets. We further develop a test-time adaptation module leveraging optimal transport to quantify the relationship between the unseen target domain and source domains to make adaptive inference for target data. Experiments on the Rotated MNIST, PACS and the VLCS datasets demonstrate that our method could effectively balance the robustness and discriminability in challenging generalization scenarios.

arxiv情報

著者 Jingge Wang,Liyan Xie,Yao Xie,Shao-Lun Huang,Yang Li
発行日 2022-07-11 14:46:50+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CV, cs.LG パーマリンク