Evolutionary Augmentation Policy Optimization for Self-supervised Learning

要約

自己教師あり学習 (SSL) は、手動でラベル付けされたデータを必要とせずにディープ ニューラル ネットワーク (DNN) を事前トレーニングするための機械学習アルゴリズムです。
この学習手法の中心的な考え方は、データ拡張を通じてラベル付きデータが自動的に作成され、DNN の事前トレーニングに利用される補助ステージ、別名プリテキスト タスクに基づいています。
ただし、各口実タスクの効果は文献で十分に研究されておらず、比較されていません。
この論文では、制約された設定における自己教師あり学習アルゴリズムのパフォーマンスに対する拡張演算子の寄与を研究します。
我々は、口実タスクにおけるデータ拡張パイプラインを最適化するための進化的検索方法を提案し、いくつかの SOTA SSL アルゴリズムにおける拡張演算子の影響を測定します。
染色体内の増強演算子のさまざまな組み合わせをエンコードすることにより、進化的最適化メカニズムを通じて最適な増強ポリシーを模索します。
さらに、最適化された SSL アルゴリズムのパフォーマンスを分析および説明する方法を紹介します。
私たちの結果は、私たちが提案した方法がSSLアルゴリズムの分類の精度を上回るソリューションを見つけることができることを示しており、これはSSLアルゴリズムの全体的なパフォーマンスに対する拡張ポリシーの選択の影響を裏付けています。
また、進化的検索メカニズムによって見つかった最適な SSL ソリューションを比較し、2 つのビジュアル データセットに対するプレテキスト タスクのバッチ サイズの影響を示します。

要約(オリジナル)

Self-supervised Learning (SSL) is a machine learning algorithm for pretraining Deep Neural Networks (DNNs) without requiring manually labeled data. The central idea of this learning technique is based on an auxiliary stage aka pretext task in which labeled data are created automatically through data augmentation and exploited for pretraining the DNN. However, the effect of each pretext task is not well studied or compared in the literature. In this paper, we study the contribution of augmentation operators on the performance of self supervised learning algorithms in a constrained settings. We propose an evolutionary search method for optimization of data augmentation pipeline in pretext tasks and measure the impact of augmentation operators in several SOTA SSL algorithms. By encoding different combination of augmentation operators in chromosomes we seek the optimal augmentation policies through an evolutionary optimization mechanism. We further introduce methods for analyzing and explaining the performance of optimized SSL algorithms. Our results indicate that our proposed method can find solutions that outperform the accuracy of classification of SSL algorithms which confirms the influence of augmentation policy choice on the overall performance of SSL algorithms. We also compare optimal SSL solutions found by our evolutionary search mechanism and show the effect of batch size in the pretext task on two visual datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google