Critical Points ++: An Agile Point Cloud Importance Measure for Robust Classification, Adversarial Defense and Explainable AI

要約

現実世界の安全性が要求されるアプリケーションでは、配布外 (OOD) サンプルに正確かつ迅速に対処する能力が非常に重要です。
この研究では、最初に 3D 点群の臨界点と OOD サンプルの間の相互作用を研究します。
私たちの調査結果では、一般的な破損や異常値は重要なポイントとして解釈されることが多いことがわかりました。
クリティカルポイントの概念を重要度の尺度に一般化します。
重要度の低い点のみに基づいて分類ネットワークをトレーニングすると、クリーン セットでのパフォーマンスの損失はわずかですが、堅牢性が劇的に向上することを示します。
正規化されたエントロピーは破損分析に非常に有益であることがわかります。
非臨界点のセットを選択するために、正規化されたエントロピーに基づく適応しきい値が提案されます。
私たちが提案する重要度の尺度は、計算が非常に高速です。
Explainable AI (XAI)、外れ値の除去、不確実性の推定、堅牢な分類、敵対的防御など、さまざまなアプリケーションに使用できることを示します。
後者の 2 つのタスクで SOTA の結果に達しました。

要約(オリジナル)

The ability to cope accurately and fast with Out-Of-Distribution (OOD) samples is crucial in real-world safety demanding applications. In this work we first study the interplay between critical points of 3D point clouds and OOD samples. Our findings are that common corruptions and outliers are often interpreted as critical points. We generalize the notion of critical points into importance measures. We show that training a classification network based only on less important points dramatically improves robustness, at a cost of minor performance loss on the clean set. We observe that normalized entropy is highly informative for corruption analysis. An adaptive threshold based on normalized entropy is suggested for selecting the set of uncritical points. Our proposed importance measure is extremely fast to compute. We show it can be used for a variety of applications, such as Explainable AI (XAI), Outlier Removal, Uncertainty Estimation, Robust Classification and Adversarial Defense. We reach SOTA results on the two latter tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google