Hybrid Energy Based Model in the Feature Space for Out-of-Distribution Detection

要約

配信外 (OOD) の検出は、ディープ ニューラル ネットワークの展開にとって重要な要件です。
この論文では、事前トレーニングされたバックボーンの特徴空間でハイブリッド エネルギーベース モデル (EBM) を使用して分布内 (ID) サンプルの密度を推定する新しいポストホック OOD 検出方法である HEAT モデルを紹介します。
HEAT は、ID 密度の事前の密度推定値を補完します。
ガウス混合モデル (GMM) のようなパラメトリック モデルを使用して、正確かつ堅牢な密度推定を提供します。
2 番目の貢献は、EBM フレームワークを活用して、統一された密度推定を提供し、いくつかのエネルギー項を構成することです。
広範な実験により、2 つの貢献の重要性が実証されました。
HEAT は、CIFAR-10 / CIFAR-100 ベンチマークおよび大規模な Imagenet ベンチマークで新しい最先端の OOD 検出結果を設定します。
コードは https://github.com/MarcLafon/heat_ood から入手できます。

要約(オリジナル)

Out-of-distribution (OOD) detection is a critical requirement for the deployment of deep neural networks. This paper introduces the HEAT model, a new post-hoc OOD detection method estimating the density of in-distribution (ID) samples using hybrid energy-based models (EBM) in the feature space of a pre-trained backbone. HEAT complements prior density estimators of the ID density, e.g. parametric models like the Gaussian Mixture Model (GMM), to provide an accurate yet robust density estimation. A second contribution is to leverage the EBM framework to provide a unified density estimation and to compose several energy terms. Extensive experiments demonstrate the significance of the two contributions. HEAT sets new state-of-the-art OOD detection results on the CIFAR-10 / CIFAR-100 benchmark as well as on the large-scale Imagenet benchmark. The code is available at: https://github.com/MarcLafon/heat_ood.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google