NERO: Explainable Out-of-Distribution Detection with Neuron-level Relevance

要約

特に診断の決定がモデルの出力にかかっていることが多い医療イメージングの領域内で、深い学習において信頼性が最も重要であることを保証します。
分散除外（OOD）サンプルを分離する能力は、研究におけるモデルの信頼性の貴重な指標であることが証明されています。
医療イメージングでは、これは特に重要です。これは、ood入力を識別することで、そうでなければ検出されない可能性のある潜在的な異常にフラグを立てるのに役立つためです。
多くのOOD検出方法は機能またはロジットスペースの表現に依存していますが、最近の作業は、これらのアプローチがOODの多様性を完全にキャプチャしない可能性があることを示唆しています。
これに対処するために、Neroと呼ばれる新しいOODスコアリングメカニズムを提案します。これは、特徴層でニューロンレベルの関連性を活用します。
具体的には、各分布（IN分布（ID）クラスのニューロンレベルの関連性をクラスター化して、代表的な重心を形成し、関連する距離メトリックを導入して、これらの重心からの新しいサンプルの偏差を定量化し、OOD分離性を高めます。
さらに、バイアス用語にスケーリングされた関連性を組み込み、特徴規範を組み合わせることにより、パフォーマンスを改善します。
また、私たちのフレームワークは、説明可能なOOD検出を可能にします。
胃腸のイメージングベンチマークKvasirおよびGastrovision上の複数の深い学習アーキテクチャにわたるその有効性を検証し、最先端のOOD検出方法の改善を達成します。

要約(オリジナル)

Ensuring reliability is paramount in deep learning, particularly within the domain of medical imaging, where diagnostic decisions often hinge on model outputs. The capacity to separate out-of-distribution (OOD) samples has proven to be a valuable indicator of a model’s reliability in research. In medical imaging, this is especially critical, as identifying OOD inputs can help flag potential anomalies that might otherwise go undetected. While many OOD detection methods rely on feature or logit space representations, recent works suggest these approaches may not fully capture OOD diversity. To address this, we propose a novel OOD scoring mechanism, called NERO, that leverages neuron-level relevance at the feature layer. Specifically, we cluster neuron-level relevance for each in-distribution (ID) class to form representative centroids and introduce a relevance distance metric to quantify a new sample’s deviation from these centroids, enhancing OOD separability. Additionally, we refine performance by incorporating scaled relevance in the bias term and combining feature norms. Our framework also enables explainable OOD detection. We validate its effectiveness across multiple deep learning architectures on the gastrointestinal imaging benchmarks Kvasir and GastroVision, achieving improvements over state-of-the-art OOD detection methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google