Multi-source adversarial transfer learning based on similar source domains with local features

要約

転移学習は他の分野の知識を活用し、多くの応用で成功を収めています。
転移学習手法は、ソース ドメインとターゲット ドメインの全体的な類似性に依存します。
ただし、場合によっては、全体的に類似したソース ドメインを提供することができず、類似した局所的特徴を持つ一部のソース ドメインのみを提供できる場合があります。
転移学習は実現できるのでしょうか?
これに関して、ソースドメインとターゲットドメインが局所的な類似性のみを持つ転送シナリオを処理するために、ソースドメインとの局所的な特徴の類似性に基づいたマルチソース敵対的転送学習方法を提案します。
この方法では、単一のソース ドメインとサブネットワークを介したターゲット ドメインの間で転送可能なローカル特徴を抽出します。
具体的には、サブネットワークの特徴抽出器は、ドメイン弁別器によって、ソースドメインとターゲットドメインの間で伝達可能な知識を学習するように誘導される。
次に、抽出された特徴はアテンション モジュールによって重み付けされ、転送不可能な局所特徴を抑制し、転送可能な局所特徴を強化します。
同じバッチ内の異なるサブネットワークにあるターゲット ドメインからのデータがまったく同じであることを保証するために、必要な主要な機能を後でローカル機能を融合して完成させる可能性を提供する、マルチソース ドメインに依存しない戦略を設計しました。
この手法の有効性を検証するために、データセット「Local Carvana Image Masking Dataset」を作成しました。
提案されたデータセットの画像セグメンテーション タスクに提案された方法を適用すると、他のマルチソース転送学習方法よりも優れた転送パフォーマンスが達成されます。
設計された転移学習方法は、ソース ドメインとターゲット ドメインが局所的な類似性のみを持つ転移シナリオに対して実行可能であることが示されています。

要約(オリジナル)

Transfer learning leverages knowledge from other domains and has been successful in many applications. Transfer learning methods rely on the overall similarity of the source and target domains. However, in some cases, it is impossible to provide an overall similar source domain, and only some source domains with similar local features can be provided. Can transfer learning be achieved? In this regard, we propose a multi-source adversarial transfer learning method based on local feature similarity to the source domain to handle transfer scenarios where the source and target domains have only local similarities. This method extracts transferable local features between a single source domain and the target domain through a sub-network. Specifically, the feature extractor of the sub-network is induced by the domain discriminator to learn transferable knowledge between the source domain and the target domain. The extracted features are then weighted by an attention module to suppress non-transferable local features while enhancing transferable local features. In order to ensure that the data from the target domain in different sub-networks in the same batch is exactly the same, we designed a multi-source domain independent strategy to provide the possibility for later local feature fusion to complete the key features required. In order to verify the effectiveness of the method, we made the dataset ‘Local Carvana Image Masking Dataset’. Applying the proposed method to the image segmentation task of the proposed dataset achieves better transfer performance than other multi-source transfer learning methods. It is shown that the designed transfer learning method is feasible for transfer scenarios where the source and target domains have only local similarities.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google