DAM: Diffusion Activation Maximization for 3D Global Explanations

要約

近年、点群モデルの性能は急速に向上しています。
しかし、関連する説明可能性の研究の量が限られているため、これらのブラックボックス モデルの信頼性の低さと不透明さは、人命が危険にさらされているアプリケーションにおいて潜在的なリスクにつながる可能性があります。
自動運転とかヘルスケアとか。
この研究では、高品質のグローバル説明を生成するためのデュアル分類子ガイダンスを備えた新しい点方向対称モデルであるポイント拡散変換器 (PDT) を活用する、DDPM ベースの点群グローバル説明可能性手法 (DAM) を提案します。
さらに、DAM に適応したパス勾配統合法が提案されています。これは、点群カテゴリの顕著性マップの全体的な概要を提供するだけでなく、説明の属性が生成プロセス中にどのように変化するかを明らかにします。
広範な実験により、私たちの方法は知覚可能性、代表性、多様性の点で既存の方法よりも優れており、生成時間が大幅に短縮されることが示されています。
私たちのコードはhttps://github.com/Explain3D/DAMから入手できます。

要約(オリジナル)

In recent years, the performance of point cloud models has been rapidly improved. However, due to the limited amount of relevant explainability studies, the unreliability and opacity of these black-box models may lead to potential risks in applications where human lives are at stake, e.g. autonomous driving or healthcare. This work proposes a DDPM-based point cloud global explainability method (DAM) that leverages Point Diffusion Transformer (PDT), a novel point-wise symmetric model, with dual-classifier guidance to generate high-quality global explanations. In addition, an adapted path gradient integration method for DAM is proposed, which not only provides a global overview of the saliency maps for point cloud categories, but also sheds light on how the attributions of the explanations vary during the generation process. Extensive experiments indicate that our method outperforms existing ones in terms of perceptibility, representativeness, and diversity, with a significant reduction in generation time. Our code is available at: https://github.com/Explain3D/DAM

arxiv情報

提供元, 利用サービス

arxiv.jp, Google