Robustifying Point Cloud Networks by Refocusing

要約

現実世界の安全性が要求されるアプリケーションでは、配布外 (OOD) の破損や敵対的攻撃に対処する能力が非常に重要です。
この研究では、焦点分析に基づいてニューラル ネットワークの堅牢性を向上させる一般的なメカニズムを開発します。
最近の研究では、パフォーマンスの低下につながる \textit{Overfocusing} の現象が明らかになりました。
ネットワークが主に小さな入力領域の影響を受ける場合、ネットワークの堅牢性が低下し、ノイズや破損の下で誤分類されやすくなります。
ただし、過集中の定量化はまだ曖昧で、明確な定義がありません。
ここでは、\textbf{focus}、\textbf{overfocusing}、\textbf{underfocusing} の数学的定義を示します。
これらの概念は一般的なものですが、この研究では、特に 3D 点群の場合を調査します。
破損したセットでは、クリーンなトレーニング セットと比較して、偏ったフォーカス分布が生じることが観察されます。
焦点分布がトレーニング段階で学習したものから逸脱すると、分類パフォーマンスが低下することを示します。
したがって、同じ分布の下ですべての破損を統合することを目的とした、パラメータフリーの \textbf{refocusing} アルゴリズムを提案します。
3D ゼロショット分類タスクに関する調査結果を検証し、ModelNet-C データセット上の堅牢な 3D 分類と、形状不変攻撃に対する敵対的防御で SOTA を達成します。
コードは https://github.com/yossilevii100/refocusing で入手できます。

要約(オリジナル)

The ability to cope with out-of-distribution (OOD) corruptions and adversarial attacks is crucial in real-world safety-demanding applications. In this study, we develop a general mechanism to increase neural network robustness based on focus analysis. Recent studies have revealed the phenomenon of \textit{Overfocusing}, which leads to a performance drop. When the network is primarily influenced by small input regions, it becomes less robust and prone to misclassify under noise and corruptions. However, quantifying overfocusing is still vague and lacks clear definitions. Here, we provide a mathematical definition of \textbf{focus}, \textbf{overfocusing} and \textbf{underfocusing}. The notions are general, but in this study, we specifically investigate the case of 3D point clouds. We observe that corrupted sets result in a biased focus distribution compared to the clean training set. We show that as focus distribution deviates from the one learned in the training phase – classification performance deteriorates. We thus propose a parameter-free \textbf{refocusing} algorithm that aims to unify all corruptions under the same distribution. We validate our findings on a 3D zero-shot classification task, achieving SOTA in robust 3D classification on ModelNet-C dataset, and in adversarial defense against Shape-Invariant attack. Code is available in: https://github.com/yossilevii100/refocusing.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google