Foresee What You Will Learn: Data Augmentation for Domain Generalization in Non-stationary Environment

要約

既存のドメイン汎化は、一般化可能なモデルを学習して、目に見えないドメインでもうまく機能することを目的としています。
多くの現実世界の機械学習アプリケーションでは、データ分布がドメイン インデックスに沿って徐々に変化することがよくあります。
たとえば、ビジョン システムを搭載した自動運転車は、空が徐々に暗くなり、夜明けから夕暮れまで運転します。
そのため、システムは周囲の照明の変化に適応し、路上で安全に運転し続けることができなければなりません。
このホワイトペーパーでは、環境の進化するパターンを発見して活用することにより、モデルがターゲットドメインで適切に一般化することを目的とする、進化するドメインの一般化などの問題を定式化します。
次に、ドメイントランスフォーマーを介してソースデータを拡張としてマッピングすることにより、目に見えないターゲット機能をシミュレートする方向ドメイン拡張 (DDA) を提案します。
具体的には、DDA をバイレベル最適化問題として定式化し、表現空間での新しいメタ学習アプローチを通じて解決します。
合成データセットと実世界のデータセットの両方で提案された方法を評価し、経験的な結果は、私たちのアプローチが他の既存の方法よりも優れていることを示しています。

要約(オリジナル)

Existing domain generalization aims to learn a generalizable model to perform well even on unseen domains. For many real-world machine learning applications, the data distribution often shifts gradually along domain indices. For example, a self-driving car with a vision system drives from dawn to dusk, with the sky darkening gradually. Therefore, the system must be able to adapt to changes in ambient illumination and continue to drive safely on the road. In this paper, we formulate such problems as Evolving Domain Generalization, where a model aims to generalize well on a target domain by discovering and leveraging the evolving pattern of the environment. We then propose Directional Domain Augmentation (DDA), which simulates the unseen target features by mapping source data as augmentations through a domain transformer. Specifically, we formulate DDA as a bi-level optimization problem and solve it through a novel meta-learning approach in the representation space. We evaluate the proposed method on both synthetic datasets and realworld datasets, and empirical results show that our approach can outperform other existing methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google