Eidos: Efficient, Imperceptible Adversarial 3D Point Clouds

要約

3D 点群の分類は、自動運転やロボット支援手術から低軌道からの地球観測に至るまで、重要な現実世界のアプリケーションを伴う、やりがいのある機械学習 (ML) タスクです。
他の ML タスクと同様、分類モデルは敵対的な攻撃があると脆弱であることで知られています。
これらは入力に対する目に見えない変化に根ざしており、一見よく訓練されたモデルが入力を誤って分類してしまうという影響があります。
このペーパーでは、3D ポイント クラウド上で効率的で知覚不可能な敵対的攻撃を提供するフレームワークである Eidos を紹介することで、敵対的攻撃の理解を深めます。
Eidos は、さまざまな知覚不能性メトリックのセットをサポートしています。
反復的な 2 段階の手順を採用して、最適な敵対的な例を特定することで、実行時と非感知性のトレードオフを可能にします。
私たちは、いくつかの一般的な 3D 点群分類モデルといくつかの確立された 3D 攻撃手法に関する経験的証拠を提供し、効率性と感知不能性の点で Eidos が優れていることを示しています。

要約(オリジナル)

Classification of 3D point clouds is a challenging machine learning (ML) task with important real-world applications in a spectrum from autonomous driving and robot-assisted surgery to earth observation from low orbit. As with other ML tasks, classification models are notoriously brittle in the presence of adversarial attacks. These are rooted in imperceptible changes to inputs with the effect that a seemingly well-trained model ends up misclassifying the input. This paper adds to the understanding of adversarial attacks by presenting Eidos, a framework providing Efficient Imperceptible aDversarial attacks on 3D pOint cloudS. Eidos supports a diverse set of imperceptibility metrics. It employs an iterative, two-step procedure to identify optimal adversarial examples, thereby enabling a runtime-imperceptibility trade-off. We provide empirical evidence relative to several popular 3D point cloud classification models and several established 3D attack methods, showing Eidos’ superiority with respect to efficiency as well as imperceptibility.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google