Dual Adversarial Alignment for Realistic Support-Query Shift Few-shot Learning

要約

サポート クエリ シフトの少数ショット学習は、サポート セットとクエリ セット間の分布シフトの下での低次元空間での学習された埋め込みに基づいて、未見の例 (クエリ セット) をラベル付きデータ (サポート セット) に分類することを目的としています。
ただし、現実のシナリオでは、変化は通常未知であり、変化するため、事前に推定することが困難です。
したがって、この論文では、Realistic Support-Query Shift の少数ショット学習に焦点を当てた、新しいがより困難な課題である RSQS を提案します。
RSQS の主な特徴は、メタタスク内の個々のサンプルが各メタタスク内で複数の分布シフトを受けることです。
さらに、我々は、RSQS をドメイン間バイアスとドメイン内分散という 2 つの側面から軽減するために、DUal adversarial ALignment Framework (DuaL) と呼ばれる統合された敵対的機能アライメント手法を提案します。
一方では、ドメイン間のバイアスについては、元のデータを事前に破損し、合成された摂動入力を使用して、特徴レベルの距離を最小化することで修復ネットワークをトレーニングします。
一方、ドメイン内分散については、自己教師ありの方法でサポートセットからハードなサンプル、つまり類似性の低いサンプルを合成し、正規化された最適な輸送を導入してスムーズな最適な輸送計画を導き出すジェネレーターネットワークを提案しました。
最後に、RSQS のベンチマークは、3 つのデータセット (CIFAR100、mini-ImageNet、および Tiered-Imagenet) 間のいくつかの最先端のベースラインを使用して構築されます。
実験結果は、DuaL がベンチマークの最先端の方法よりも大幅に優れていることを示しています。

要約(オリジナル)

Support-query shift few-shot learning aims to classify unseen examples (query set) to labeled data (support set) based on the learned embedding in a low-dimensional space under a distribution shift between the support set and the query set. However, in real-world scenarios the shifts are usually unknown and varied, making it difficult to estimate in advance. Therefore, in this paper, we propose a novel but more difficult challenge, RSQS, focusing on Realistic Support-Query Shift few-shot learning. The key feature of RSQS is that the individual samples in a meta-task are subjected to multiple distribution shifts in each meta-task. In addition, we propose a unified adversarial feature alignment method called DUal adversarial ALignment framework (DuaL) to relieve RSQS from two aspects, i.e., inter-domain bias and intra-domain variance. On the one hand, for the inter-domain bias, we corrupt the original data in advance and use the synthesized perturbed inputs to train the repairer network by minimizing distance in the feature level. On the other hand, for intra-domain variance, we proposed a generator network to synthesize hard, i.e., less similar, examples from the support set in a self-supervised manner and introduce regularized optimal transportation to derive a smooth optimal transportation plan. Lastly, a benchmark of RSQS is built with several state-of-the-art baselines among three datasets (CIFAR100, mini-ImageNet, and Tiered-Imagenet). Experiment results show that DuaL significantly outperforms the state-of-the-art methods in our benchmark.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google