AdvST: Revisiting Data Augmentations for Single Domain Generalization

要約

単一ドメイン一般化 (SDG) は、単一のソース ドメインからのデータを使用して、未知のターゲット ドメインのシフトに対して堅牢なモデルをトレーニングすることを目的としています。
データ拡張は SDG への効果的なアプローチであることが証明されています。
ただし、変換や反転などの標準的な拡張機能の有用性は、SDG では十分に活用されていません。
実際には、これらの拡張はデータ前処理手順の一部として使用されます。
このような拡張を多数使用して、分布外ドメインのシフトに対するモデルの堅牢性を高めることは直感的ですが、これらの複数の拡張からもたらされる利点を活用するための原則に基づいたアプローチが不足しています。
ここでは、学習可能なパラメータを使用した標準的なデータ拡張を、画像の形状や色など、サンプルの特定のセマンティクスを操作できるセマンティクス変換として概念化します。
次に、ソース ドメイン データをセマンティクス変換で拡張し、拡張されたデータで堅牢なモデルを学習する、セマンティクス変換による敵対的学習 (AdvST) を提案します。
我々は、AdvST が本質的に、セマンティクス変換のパラメータによって引き起こされるセマンティクス分布のセットに定義された分布的にロバストな最適化目標を最適化することを理論的に示します。
AdvST がターゲット ドメイン データの範囲を拡大するサンプルを生成できることを示します。
最先端の手法と比較すると、AdvST はシンプルな手法であるにもかかわらず、驚くほど競争力があり、Digits、PACS、および DomainNet データセットで最高の平均 SDG パフォーマンスを達成します。
私たちのコードは https://github.com/gtzheng/AdvST で入手できます。

要約(オリジナル)

Single domain generalization (SDG) aims to train a robust model against unknown target domain shifts using data from a single source domain. Data augmentation has been proven an effective approach to SDG. However, the utility of standard augmentations, such as translate, or invert, has not been fully exploited in SDG; practically, these augmentations are used as a part of a data preprocessing procedure. Although it is intuitive to use many such augmentations to boost the robustness of a model to out-of-distribution domain shifts, we lack a principled approach to harvest the benefit brought from multiple these augmentations. Here, we conceptualize standard data augmentations with learnable parameters as semantics transformations that can manipulate certain semantics of a sample, such as the geometry or color of an image. Then, we propose Adversarial learning with Semantics Transformations (AdvST) that augments the source domain data with semantics transformations and learns a robust model with the augmented data. We theoretically show that AdvST essentially optimizes a distributionally robust optimization objective defined on a set of semantics distributions induced by the parameters of semantics transformations. We demonstrate that AdvST can produce samples that expand the coverage on target domain data. Compared with the state-of-the-art methods, AdvST, despite being a simple method, is surprisingly competitive and achieves the best average SDG performance on the Digits, PACS, and DomainNet datasets. Our code is available at https://github.com/gtzheng/AdvST.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google