Risk-optimized Outlier Removal for Robust Point Cloud Classification

要約

安全性が重要な目的で点群ディープ モデルの人気が高まっていますが、これらのモデルの信頼性とセキュリティは、意図的または自然に発生する点群ノイズによって損なわれる可能性があります。
この問題に対処するために、PointCVaR と呼ばれる新しい点群外れ値除去方法を紹介します。これにより、標準トレーニングされたモデルが追加の外れ値を除去してデータを復元できるようになります。
私たちのアプローチは、属性分析を実行して、モデル出力に対する各ポイントの影響 (ポイント リスクと呼ばれます) を判断することから始まります。
次に、Conditional Value at Risk (CVaR) を目的として使用して、高リスク ポイントをフィルタリングするプロセスを最適化します。
このアプローチの理論的根拠は、点群内のノイズ ポイントがリスク分布の末尾に集中する傾向があり、頻度は低いがリスク レベルが高く、その結果、分類結果に重大な干渉が生じるという観察に基づいています。
追加のトレーニング作業を必要としないにもかかわらず、私たちの方法は、ランダム ノイズ、敵対的ノイズ、バックドア トリガー ノイズによって破損するノイズの多い点群のさまざまな除去と分類の実験で優れた結果をもたらします。
驚くべきことに、トリガーを取り除くことでバックドア攻撃に対する防御精度が 87% 達成されています。
全体として、提案された PointCVaR はノイズ ポイントを効果的に除去し、点群分類を強化し、さまざまなシナリオのさまざまなモデルにとって有望なプラグイン モジュールとなっています。

要約(オリジナル)

The popularity of point cloud deep models for safety-critical purposes has increased, but the reliability and security of these models can be compromised by intentional or naturally occurring point cloud noise. To combat this issue, we present a novel point cloud outlier removal method called PointCVaR, which empowers standard-trained models to eliminate additional outliers and restore the data. Our approach begins by conducting attribution analysis to determine the influence of each point on the model output, which we refer to as point risk. We then optimize the process of filtering high-risk points using Conditional Value at Risk (CVaR) as the objective. The rationale for this approach is based on the observation that noise points in point clouds tend to cluster in the tail of the risk distribution, with a low frequency but a high level of risk, resulting in significant interference with classification results. Despite requiring no additional training effort, our method produces exceptional results in various removal-and-classification experiments for noisy point clouds, which are corrupted by random noise, adversarial noise, and backdoor trigger noise. Impressively, it achieves 87% accuracy in defense against the backdoor attack by removing triggers. Overall, the proposed PointCVaR effectively eliminates noise points and enhances point cloud classification, making it a promising plug-in module for various models in different scenarios.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google