Exploiting Counter-Examples for Active Learning with Partial labels

要約

この論文では、新しい問題 \emph{部分ラベル付き能動学習} (ALPL) を研究します。
この設定では、オラクルは部分的なラベルでクエリ サンプルに注釈を付け、要求の厳しい正確なラベル付けプロセスからオラクルを解放します。
ALPL に対処するために、まず既存の AL フレームワークにシームレスに組み込むことができる直感的なベースラインを構築します。
このベースラインは効果的ではありますが、依然として \emph{過学習} の影響を受けやすく、クエリ処理中に代表的な部分ラベルベースのサンプルには届きません。
\emph{反例} (CE) から正確な推論を明示的に導き出すことができる認知科学における人間の推論からインスピレーションを得た私たちの目的は、この人間のような学習パターンを活用して、\emph{過学習} に取り組みながら、
ALPL で代表的なサンプルを選択するプロセス。
具体的には、各インスタンスの部分ラベルを逆にして CE を構築し、この相補的なパターンから直接学習するためのシンプルだが効果的な WorseNet を提案します。
WorseNet と予測子の間の分布ギャップを活用することで、この敵対的評価方法により、予測子自体のパフォーマンスとサンプル選択プロセスの両方が向上し、予測子がデータ内のより正確なパターンをキャプチャできるようになります。
5 つの現実世界のデータセットと 4 つのベンチマーク データセットに関する実験結果は、私たちの提案手法が 10 の代表的な AL フレームワークに対して包括的な改善を達成していることを示し、WorseNet の優位性を強調しています。
ソース コードは \url{https://github.com/Ferenas/APLL} で入手できます。

要約(オリジナル)

This paper studies a new problem, \emph{active learning with partial labels} (ALPL). In this setting, an oracle annotates the query samples with partial labels, relaxing the oracle from the demanding accurate labeling process. To address ALPL, we first build an intuitive baseline that can be seamlessly incorporated into existing AL frameworks. Though effective, this baseline is still susceptible to the \emph{overfitting}, and falls short of the representative partial-label-based samples during the query process. Drawing inspiration from human inference in cognitive science, where accurate inferences can be explicitly derived from \emph{counter-examples} (CEs), our objective is to leverage this human-like learning pattern to tackle the \emph{overfitting} while enhancing the process of selecting representative samples in ALPL. Specifically, we construct CEs by reversing the partial labels for each instance, and then we propose a simple but effective WorseNet to directly learn from this complementary pattern. By leveraging the distribution gap between WorseNet and the predictor, this adversarial evaluation manner could enhance both the performance of the predictor itself and the sample selection process, allowing the predictor to capture more accurate patterns in the data. Experimental results on five real-world datasets and four benchmark datasets show that our proposed method achieves comprehensive improvements over ten representative AL frameworks, highlighting the superiority of WorseNet. The source code will be available at \url{https://github.com/Ferenas/APLL}.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google