RelationMatch: Matching In-batch Relationships for Semi-supervised Learning

要約

半教師あり学習は、ごく少数のラベル付きデータを活用し、ラベルなしデータから得られる豊富な情報を活用することで、顕著な成功を収めています。
ただし、既存のアルゴリズムは通常、同一のソースから拡張されたペアのデータ ポイントの予測を調整することに重点を置き、各バッチ内のポイント間の関係を見落としています。
この論文では、行列クロスエントロピー (MCE) 損失関数を使用したバッチ内関係を利用する新しいメソッド RelationMatch を紹介します。
MCE の適用により、私たちが提案する方法は、さまざまな視覚データセットにわたって、FixMatch や FlexMatch などの確立された最先端の方法のパフォーマンスを常に上回ります。
特に、わずか 40 個のラベルを使用した STL-10 データセットでは、FlexMatch と比較して精度が 15.21% 大幅に向上していることが観察されました。
さらに、教師あり学習シナリオに MCE を適用し、一貫した改善も観察しています。

要約(オリジナル)

Semi-supervised learning has achieved notable success by leveraging very few labeled data and exploiting the wealth of information derived from unlabeled data. However, existing algorithms usually focus on aligning predictions on paired data points augmented from an identical source, and overlook the inter-point relationships within each batch. This paper introduces a novel method, RelationMatch, which exploits in-batch relationships with a matrix cross-entropy (MCE) loss function. Through the application of MCE, our proposed method consistently surpasses the performance of established state-of-the-art methods, such as FixMatch and FlexMatch, across a variety of vision datasets. Notably, we observed a substantial enhancement of 15.21% in accuracy over FlexMatch on the STL-10 dataset using only 40 labels. Moreover, we apply MCE to supervised learning scenarios, and observe consistent improvements as well.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google