Diversifying Deep Ensembles: A Saliency Map Approach for Enhanced OOD Detection, Calibration, and Accuracy

要約

ディープ アンサンブルは、分類と分布外 (OOD) 検出において最先端の結果を達成できます。
ただし、アンサンブル内で学習されたパターンが均一であるため、その有効性は限られています。
この問題を克服するために、私たちの研究では、顕著性マップを活用することでアンサンブル メンバー間の多様性を促進する新しいアプローチである、顕著性多様化ディープ アンサンブル (SDDE) を導入しました。
顕著性マップの多様化を組み込むことにより、私たちの方法は従来のアンサンブル技術を上回り、複数の分類および OOD 検出タスクにおけるキャリブレーションを向上させます。
特に、提案された方法は、CIFAR10/100 や大規模な ImageNet データセットを含む複数のベンチマークで最先端の OOD 検出品質、キャリブレーション、精度を実現します。

要約(オリジナル)

Deep ensembles are capable of achieving state-of-the-art results in classification and out-of-distribution (OOD) detection. However, their effectiveness is limited due to the homogeneity of learned patterns within ensembles. To overcome this issue, our study introduces Saliency Diversified Deep Ensemble (SDDE), a novel approach that promotes diversity among ensemble members by leveraging saliency maps. Through incorporating saliency map diversification, our method outperforms conventional ensemble techniques and improves calibration in multiple classification and OOD detection tasks. In particular, the proposed method achieves state-of-the-art OOD detection quality, calibration, and accuracy on multiple benchmarks, including CIFAR10/100 and large-scale ImageNet datasets.

arxiv情報

著者 Stanislav Dereka,Ivan Karpukhin,Maksim Zhdanov,Sergey Kolesnikov
発行日 2023-09-29 14:17:01+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CV, cs.LG パーマリンク