NP-Match: Towards a New Probabilistic Model for Semi-Supervised Learning

要約

近年、半教師あり学習 (SSL) が広く研究されており、ラベル付けされていないデータを活用して、ラベル付けされたデータへの依存を減らす効果的な方法です。
この作業では、ニューラル プロセス (NP) を半教師あり画像分類タスクに調整し、NP-Match という名前の新しい方法を生み出しました。
NP-Match がこのタスクに適している理由は 2 つあります。
まず、NP-Match は予測を行うときにデータ ポイントを暗黙的に比較します。その結果、ラベルのない各データ ポイントの予測は、それに類似したラベル付きのデータ ポイントの影響を受け、疑似ラベルの品質が向上します。
次に、NP-Match は、信頼できる疑似ラベルを持つラベルのないサンプルを選択するためのツールとして使用できる不確実性を推定できます。
モンテカルロ (MC) ドロップアウトで実装された不確実性ベースの SSL メソッドと比較して、NP-Match ははるかに少ない計算オーバーヘッドで不確実性を推定するため、トレーニング フェーズとテスト フェーズの両方で時間を節約できます。
3 つの半教師あり画像分類設定、つまり、標準の半教師あり画像分類、不均衡な半教師あり画像分類、マルチラベル半教師あり画像分類、および NP-Match の下で、5 つの公開データセットに対して広範な実験を実施しました。
最先端の (SOTA) アプローチよりも優れているか、競争力のある結果を達成しています。これは、NP-Match の有効性と SSL の可能性を示しています。
コードは https://github.com/Jianf-Wang/NP-Match にあります

要約(オリジナル)

Semi-supervised learning (SSL) has been widely explored in recent years, and it is an effective way of leveraging unlabeled data to reduce the reliance on labeled data. In this work, we adjust neural processes (NPs) to the semi-supervised image classification task, resulting in a new method named NP-Match. NP-Match is suited to this task for two reasons. Firstly, NP-Match implicitly compares data points when making predictions, and as a result, the prediction of each unlabeled data point is affected by the labeled data points that are similar to it, which improves the quality of pseudo-labels. Secondly, NP-Match is able to estimate uncertainty that can be used as a tool for selecting unlabeled samples with reliable pseudo-labels. Compared with uncertainty-based SSL methods implemented with Monte-Carlo (MC) dropout, NP-Match estimates uncertainty with much less computational overhead, which can save time at both the training and the testing phases. We conducted extensive experiments on five public datasets under three semi-supervised image classification settings, namely, the standard semi-supervised image classification, the imbalanced semi-supervised image classification, and the multi-label semi-supervised image classification, and NP-Match outperforms state-of-the-art (SOTA) approaches or achieves competitive results on them, which shows the effectiveness of NP-Match and its potential for SSL. The codes are at https://github.com/Jianf-Wang/NP-Match

arxiv情報

提供元, 利用サービス

arxiv.jp, Google