Structural Adversarial Objectives for Self-Supervised Representation Learning

要約

敵対的生成ネットワーク (GAN) の枠組み内で、追加の構造モデリング責任を介して自己教師あり表現学習を識別器に課す目標を提案します。
これらの目的は、ネットワークに課せられた効率的な平滑化正則化と組み合わせることで、ドメインからサンプリングできるジェネレーターを維持しながら、ディスクリミネーターが有益な表現を抽出する方法を学習できるように導きます。
具体的には、私たちの目的は、ディスクリミネーターが 2 つの粒度レベルで特徴を構造化することを奨励します。つまり、粗いスケールで平均や分散などの分布特性を調整し、より細かいスケールで特徴をローカル クラスターにグループ化します。
GAN フレームワーク内で特徴学習器として動作することで、自己教師ありシステムは、対照表現学習手法全体で普及している手作りのデータ拡張スキームへの依存から解放されます。
CIFAR-10/100 と ImageNet サブセットにわたる実験では、自己教師あり目標を GAN に装備するだけで、表現学習の観点から評価される識別器を生成するのに十分であり、対照学習アプローチによって訓練されたネットワークと競合することが実証されました。

要約(オリジナル)

Within the framework of generative adversarial networks (GANs), we propose objectives that task the discriminator for self-supervised representation learning via additional structural modeling responsibilities. In combination with an efficient smoothness regularizer imposed on the network, these objectives guide the discriminator to learn to extract informative representations, while maintaining a generator capable of sampling from the domain. Specifically, our objectives encourage the discriminator to structure features at two levels of granularity: aligning distribution characteristics, such as mean and variance, at coarse scales, and grouping features into local clusters at finer scales. Operating as a feature learner within the GAN framework frees our self-supervised system from the reliance on hand-crafted data augmentation schemes that are prevalent across contrastive representation learning methods. Across CIFAR-10/100 and an ImageNet subset, experiments demonstrate that equipping GANs with our self-supervised objectives suffices to produce discriminators which, evaluated in terms of representation learning, compete with networks trained by contrastive learning approaches.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google