Energy-based Hopfield Boosting for Out-of-Distribution Detection

要約

機械学習モデルを現実世界に展開する場合、配布外 (OOD) の検出が重要です。
トレーニング プロセスに補助的な外れ値データを組み込む外れ値露出手法は、高度なトレーニング戦略を使用しないアプローチと比較して、OOD 検出パフォーマンスを大幅に向上させることができます。
最新のホップフィールド エネルギー (MHE) を活用して、配信内データと OOD データの間の決定境界を鮮明にするブースティング アプローチであるホップフィールド ブースティングを紹介します。
ホップフィールド ブースティングは、分布内データと補助外れ値データの間の決定境界近くにある、区別が難しい補助外れ値の例にモデルが集中することを奨励します。
私たちの手法は、外れ値露出による OOD 検出の新しい最先端を実現し、FPR95 メトリクスを CIFAR-10 では 2.28 から 0.92 に、CIFAR-100 では 11.76 から 7.94 に改善しました。

要約(オリジナル)

Out-of-distribution (OOD) detection is critical when deploying machine learning models in the real world. Outlier exposure methods, which incorporate auxiliary outlier data in the training process, can drastically improve OOD detection performance compared to approaches without advanced training strategies. We introduce Hopfield Boosting, a boosting approach, which leverages modern Hopfield energy (MHE) to sharpen the decision boundary between the in-distribution and OOD data. Hopfield Boosting encourages the model to concentrate on hard-to-distinguish auxiliary outlier examples that lie close to the decision boundary between in-distribution and auxiliary outlier data. Our method achieves a new state-of-the-art in OOD detection with outlier exposure, improving the FPR95 metric from 2.28 to 0.92 on CIFAR-10 and from 11.76 to 7.94 on CIFAR-100.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google