Partial-Label Learning with Conformal Candidate Cleaning

要約

実際のデータはしばしばあいまいです。
たとえば、人間の注釈は、複数の矛盾するクラスラベルを持つインスタンスを生成します。
Partial-Label Learning（PLL）は、各インスタンスが候補ラベルのセットと正しいが不明なクラスラベルに関連付けられているこの挑戦的な設定で分類子をトレーニングすることを目的としています。
この設定をターゲットにした多数のアルゴリズムが存在し、予測の品質を高めるために、広範囲のPLLメソッドに適用可能ないくつかの拡張機能が導入されています。
これらの拡張機能の多くはヒューリスティックに依存していますが、この記事では、コンフォーマル予測を使用して候補セットを徐々にプルーネットする新しい強化方法を提案しています。
通常、コンフォーマル予測に必要な欠落したラベル付き検証セットを回避するために、検証セットにラベルを付けるためにPLL分類器をトレーニングすること、キャリブレーションのためにこれらの予測クラスラベルを活用し、一部ではない剪定候補ラベルを活用する戦略を提案します。
結果のコンフォーマルセットの。
この意味で、私たちの方法は、経験的リスクの最小化と候補セット剪定を交互に行います。
私たちの剪定方法は、未知のグラウンド・トゥルースに関してコンフォーマルの妥当性を維持することを確立します。
人工および現実世界のデータに関する広範な実験は、提案されたアプローチがいくつかの最先端のPLL分類器のテストセットの精度を大幅に改善することを示しています。

要約(オリジナル)

Real-world data is often ambiguous; for example, human annotation produces instances with multiple conflicting class labels. Partial-label learning (PLL) aims at training a classifier in this challenging setting, where each instance is associated with a set of candidate labels and one correct, but unknown, class label. A multitude of algorithms targeting this setting exists and, to enhance their prediction quality, several extensions that are applicable across a wide range of PLL methods have been introduced. While many of these extensions rely on heuristics, this article proposes a novel enhancing method that incrementally prunes candidate sets using conformal prediction. To work around the missing labeled validation set, which is typically required for conformal prediction, we propose a strategy that alternates between training a PLL classifier to label the validation set, leveraging these predicted class labels for calibration, and pruning candidate labels that are not part of the resulting conformal sets. In this sense, our method alternates between empirical risk minimization and candidate set pruning. We establish that our pruning method preserves the conformal validity with respect to the unknown ground truth. Our extensive experiments on artificial and real-world data show that the proposed approach significantly improves the test set accuracies of several state-of-the-art PLL classifiers.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google