Biased Binary Attribute Classifiers Ignore the Majority Classes

要約

分類器が決定の基礎となる関心領域を視覚化するために、さまざまなクラス アクティベーション マッピング (CAM) メソッドが開発されています。
ただし、実際のタスクのほとんどは二項分類ですが、これらの手法はすべてカテゴリ分類子のみを対象としています。
この論文では、勾配ベースの CAM 技術を拡張してバイナリ分類器を操作し、バイナリ顔属性分類器のアクティブ領域を視覚化します。
不均衡なデータセットで不均衡なバイナリ分類器をトレーニングする場合、多数派のクラス、つまり多くのトレーニング サンプルを持つクラスの方が、トレーニング インスタンスがほとんどない少数派のクラスよりもはるかに良く予測されることがよく知られています。
CelebA データセットでの実験では、40 の顔属性を同時に抽出するために不均衡な分類器をトレーニングしたときに、これらの結果を検証しました。
偏った分類器は主に多数クラスの特徴を抽出することを学習し、活性化の比例エネルギーは主に属性が存在する画像の特定の領域に存在すると予想されるでしょう。
ただし、多数派クラスのサンプルでは定期的なアクティブ化がほとんど見つかりませんでしたが、少数派クラスのアクティブ領域はほとんど合理的であり、予想と重なっているように見えます。
これらの結果は、バイアスされた分類器が主に多数クラスのバイアスの活性化に依存していることを示唆しています。
属性固有のクラス重みを使用して、不均衡なデータに対してバランスのとれた分類器をトレーニングすると、多数派クラスと少数派クラスが同様に適切に分類され、ほぼすべての属性に対して期待される活性化が示されます。

要約(オリジナル)

To visualize the regions of interest that classifiers base their decisions on, different Class Activation Mapping (CAM) methods have been developed. However, all of these techniques target categorical classifiers only, though most real-world tasks are binary classification. In this paper, we extend gradient-based CAM techniques to work with binary classifiers and visualize the active regions for binary facial attribute classifiers. When training an unbalanced binary classifier on an imbalanced dataset, it is well-known that the majority class, i.e. the class with many training samples, is mostly predicted much better than minority class with few training instances. In our experiments on the CelebA dataset, we verify these results, when training an unbalanced classifier to extract 40 facial attributes simultaneously. One would expect that the biased classifier has learned to extract features mainly for the majority classes and that the proportional energy of the activations mainly reside in certain specific regions of the image where the attribute is located. However, we find very little regular activation for samples of majority classes, while the active regions for minority classes seem mostly reasonable and overlap with our expectations. These results suggest that biased classifiers mainly rely on bias activation for majority classes. When training a balanced classifier on the imbalanced data by employing attribute-specific class weights, majority and minority classes are classified similarly well and show expected activations for almost all attributes

arxiv情報

提供元, 利用サービス

arxiv.jp, Google