Variational Classification

要約

我々は、変分分類 (VC) と呼ばれる、分類タスクに対する従来のニューラル ネットワーク アプローチの新しい拡張を提案します。
変分オートエンコーダーと従来のオートエンコーダーとの関係に似た潜在変数モデリングを組み込むことで、敵対的アプローチを使用して最適化された証拠下限 (ELBO) に基づいてトレーニング目標を導き出します。
私たちの VC モデルでは、既製のソフトマックス分類器で行われる暗黙的な仮定の代わりに、特にクラス条件付き潜在事前確率など、設計の選択においてより柔軟な対応が可能になります。
画像およびテキスト分類データセットの経験的評価は、ドメイン外データに適用した場合でも、予測精度を維持しながら、キャリブレーションや敵対的堅牢性などの他の望ましい特性を向上させるという点で、私たちのアプローチの有効性を実証しています。

要約(オリジナル)

We present a novel extension of the traditional neural network approach to classification tasks, referred to as variational classification (VC). By incorporating latent variable modeling, akin to the relationship between variational autoencoders and traditional autoencoders, we derive a training objective based on the evidence lower bound (ELBO), optimized using an adversarial approach. Our VC model allows for more flexibility in design choices, in particular class-conditional latent priors, in place of the implicit assumptions made in off-the-shelf softmax classifiers. Empirical evaluation on image and text classification datasets demonstrates the effectiveness of our approach in terms of maintaining prediction accuracy while improving other desirable properties such as calibration and adversarial robustness, even when applied to out-of-domain data.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google