Unified Binary and Multiclass Margin-Based Classification

要約

マージン損失の概念は、バイナリ分類のアルゴリズムの開発と分析の中心となってきました。
しかし、現在に至るまで、マルチクラス分類におけるマージン損失の類似物についてはコンセンサスが得られていません。
この研究では、多くの一般的な損失関数を含む幅広いマルチクラス損失関数が、バイナリ損失のマージン形式を一般化した相対マージン形式で表現できることを示します。
相対マージン形式は、以前の研究 (Wang および Scott、2020、2021) で示されているように、マルチクラス損失の理解と分析に広く役立ちます。
マルチクラス損失を表現するこの方法の有用性をさらに実証するために、この方法を使用して Bartlett らの独創的な結果を拡張します。
(2006) マルチクラスへのバイナリーマージン損失の分類調整について。
次に、フェンチェル・ヤング損失のクラスを分析し、分類校正されたことが知られているこれらの損失のセットを拡張します。

要約(オリジナル)

The notion of margin loss has been central to the development and analysis of algorithms for binary classification. To date, however, there remains no consensus as to the analogue of the margin loss for multiclass classification. In this work, we show that a broad range of multiclass loss functions, including many popular ones, can be expressed in the relative margin form, a generalization of the margin form of binary losses. The relative margin form is broadly useful for understanding and analyzing multiclass losses as shown by our prior work (Wang and Scott, 2020, 2021). To further demonstrate the utility of this way of expressing multiclass losses, we use it to extend the seminal result of Bartlett et al. (2006) on classification-calibration of binary margin losses to multiclass. We then analyze the class of Fenchel-Young losses, and expand the set of these losses that are known to be classification-calibrated.

arxiv情報

著者 Yutong Wang,Clayton Scott
発行日 2023-11-29 16:24:32+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.ML パーマリンク