Controlling Class Layout for Deep Ordinal Classification via Constrained Proxies Learning

要約

深い序数分類の場合、序数分類に固有の適切に構造化された特徴空間を学習することは、クラス間の序数の性質を適切に捉えるのに役立ちます。
直観的に、ユークリッド距離メトリックが使用される場合、特徴空間の理想的な序数レイアウトは、サンプル クラスターが空間内の直線に沿ってクラス順に配置されることです。
ただし、特徴空間内の特定のレイアウトに準拠するようにサンプルを強制することは、困難な問題です。
この問題に対処するために、この論文では、各順序クラスのプロキシを学習し、これらのプロキシを制約することによってクラスのグローバル レイアウトを調整できる、新しい制約付きプロキシ学習 (CPL) メソッドを提案します。
具体的には、ハード レイアウト制約とソフト レイアウト制約の 2 種類の戦略を提案します。
ハード レイアウト制約は、プロキシの生成を直接制御して、それらを厳密な線形レイアウトまたは半円形レイアウト (つまり、厳密な序数レイアウトの 2 つのインスタンス化) に強制的に配置することによって実現されます。
ソフト レイアウト制約は、プロキシ レイアウトが常に各プロキシに対してユニモーダル プロキシ間類似度分布を生成するように制約することによって実現されます (つまり、緩和された序数のレイアウトになります)。
実験は、提案された CPL メソッドが、特徴抽出器の同じ設定の下で以前の深い序数分類メソッドよりも優れていることを示しています。

要約(オリジナル)

For deep ordinal classification, learning a well-structured feature space specific to ordinal classification is helpful to properly capture the ordinal nature among classes. Intuitively, when Euclidean distance metric is used, an ideal ordinal layout in feature space would be that the sample clusters are arranged in class order along a straight line in space. However, enforcing samples to conform to a specific layout in the feature space is a challenging problem. To address this problem, in this paper, we propose a novel Constrained Proxies Learning (CPL) method, which can learn a proxy for each ordinal class and then adjusts the global layout of classes by constraining these proxies. Specifically, we propose two kinds of strategies: hard layout constraint and soft layout constraint. The hard layout constraint is realized by directly controlling the generation of proxies to force them to be placed in a strict linear layout or semicircular layout (i.e., two instantiations of strict ordinal layout). The soft layout constraint is realized by constraining that the proxy layout should always produce unimodal proxy-to-proxies similarity distribution for each proxy (i.e., to be a relaxed ordinal layout). Experiments show that the proposed CPL method outperforms previous deep ordinal classification methods under the same setting of feature extractor.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google