Towards Transferable Targeted 3D Adversarial Attack in the Physical World

要約

転送可能な非標的型攻撃と比較して、転送可能な標的型敵対的攻撃は、敵対的サンプルの誤分類カテゴリを特定する可能性があり、セキュリティ クリティカルなタスクに大きな脅威をもたらす可能性があります。
一方、3D 敵対的サンプルは、マルチビューの堅牢性の可能性により、既存の深層学習システムの弱点をより包括的に特定でき、大きな応用価値を備えています。
しかし、移転可能な標的型 3D 敵対的攻撃の分野は依然として空白です。
この研究の目標は、この分野のギャップを埋める、転送可能なターゲットを絞った 3D 敵対的な例を生成できる、より効果的な手法を開発することです。
この目標を達成するために、少数のマルチビュー画像から転送可能なターゲット 3D テクスチャ メッシュに迅速に再構築できる TT3D という新しいフレームワークを設計します。
既存のメッシュベースのテクスチャ最適化手法は、高次元メッシュ空間で勾配を計算し、局所最適化に陥りやすく、不満足な伝達性や顕著な歪みを引き起こしますが、TT3D は、フィーチャ グリッドと多層パーセプトロン (MLP) パラメーターの両方に対して革新的に二重最適化を実行します。
グリッドベースの NeRF 空間で、自然さを楽しみながらブラックボックスの転送性を大幅に向上させます。
実験結果は、TT3D が優れたモデル間転送性を示すだけでなく、さまざまなレンダリングやビジョン タスクにわたってかなりの適応性を維持することを示しています。
さらに重要なのは、現実世界で 3D プリント技術を使用して 3D 敵対的なサンプルを作成し、さまざまなシナリオの下でその堅牢なパフォーマンスを検証していることです。

要約(オリジナル)

Compared with transferable untargeted attacks, transferable targeted adversarial attacks could specify the misclassification categories of adversarial samples, posing a greater threat to security-critical tasks. In the meanwhile, 3D adversarial samples, due to their potential of multi-view robustness, can more comprehensively identify weaknesses in existing deep learning systems, possessing great application value. However, the field of transferable targeted 3D adversarial attacks remains vacant. The goal of this work is to develop a more effective technique that could generate transferable targeted 3D adversarial examples, filling the gap in this field. To achieve this goal, we design a novel framework named TT3D that could rapidly reconstruct from few multi-view images into Transferable Targeted 3D textured meshes. While existing mesh-based texture optimization methods compute gradients in the high-dimensional mesh space and easily fall into local optima, leading to unsatisfactory transferability and distinct distortions, TT3D innovatively performs dual optimization towards both feature grid and Multi-layer Perceptron (MLP) parameters in the grid-based NeRF space, which significantly enhances black-box transferability while enjoying naturalness. Experimental results show that TT3D not only exhibits superior cross-model transferability but also maintains considerable adaptability across different renders and vision tasks. More importantly, we produce 3D adversarial examples with 3D printing techniques in the real world and verify their robust performance under various scenarios.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google