NoPain: No-box Point Cloud Attack via Optimal Transport Singular Boundary

要約

敵対的な攻撃は、敵対的なサンプルに対する深いモデルの脆弱性を活用します。
既存のポイントクラウド攻撃者は特定のモデルに合わせて調整され、ホワイトボックスまたはブラックボックス設定の勾配に基づいて摂動を繰り返し最適化します。
彼らの有望な攻撃性能にもかかわらず、彼らはしばしば、代理モデルの特定のパラメーターを過剰に適合させるため、転送可能な敵対的なサンプルを生成するのに苦労しています。
この問題を克服するために、焦点をデータ分布自体に移し、Nopainという名前の新しいアプローチを導入します。これは、最適な輸送（OT）を使用して、ネットワーククロスポイントクラウド攻撃のためにデータマニホールドの固有の特異な境界を識別します。
具体的には、最初にノイズからターゲットフィーチャスペースへのOTマッピングを計算し、次に異なる位置を見つけることにより、特異な境界を特定します。
最後に、敵対的な点雲を生成するために、特異な境界に沿ってサンプリングします。
特異な境界が決定されると、Nopainは、代理分類子からの反復的な更新やガイダンスを必要とせずに効率的に敵対的なサンプルを生成できます。
広範な実験は、提案されているエンドツーエンドの方法が、譲渡可能性と効率の両方の観点からベースラインアプローチを上回ると同時に、防衛戦略に対してさえ顕著な利点を維持することを示しています。
コードとモデルはhttps://github.com/cognaclee/nopainで入手できます

要約(オリジナル)

Adversarial attacks exploit the vulnerability of deep models against adversarial samples. Existing point cloud attackers are tailored to specific models, iteratively optimizing perturbations based on gradients in either a white-box or black-box setting. Despite their promising attack performance, they often struggle to produce transferable adversarial samples due to overfitting the specific parameters of surrogate models. To overcome this issue, we shift our focus to the data distribution itself and introduce a novel approach named NoPain, which employs optimal transport (OT) to identify the inherent singular boundaries of the data manifold for cross-network point cloud attacks. Specifically, we first calculate the OT mapping from noise to the target feature space, then identify singular boundaries by locating non-differentiable positions. Finally, we sample along singular boundaries to generate adversarial point clouds. Once the singular boundaries are determined, NoPain can efficiently produce adversarial samples without the need of iterative updates or guidance from the surrogate classifiers. Extensive experiments demonstrate that the proposed end-to-end method outperforms baseline approaches in terms of both transferability and efficiency, while also maintaining notable advantages even against defense strategies. Code and model are available at https://github.com/cognaclee/nopain

arxiv情報

提供元, 利用サービス

arxiv.jp, Google