DeCoDEx: Confounder Detector Guidance for Improved Diffusion-based Counterfactual Explanations

要約

ディープ ラーニング分類器は、ターゲット クラスに関連付けられた因果マーカーではなく、データセット内に存在する支配的な交絡因子に捕捉される傾向があり、不十分な一般化と偏った予測につながります。
反事実画像生成による説明可能性は問題を明らかにすることに成功しましたが、支配的で多様なアーチファクトの存在下で正確な説明可能性を可能にするバイアス軽減戦略は未解決のままです。
この研究では、DeCoDEx フレームワークを提案し、事前にトレーニングされた外部のバイナリ アーティファクト検出器を推論中にどのように利用して、拡散ベースの反事実画像ジェネレーターを正確な説明可能性へと導くことができるかを示します。
合成アーチファクトと実際の視覚アーチファクト (サポート デバイス) の両方を使用した CheXpert データセットの実験では、提案された方法が、視覚アーチファクトを保存または無視しながら、胸水に関連する原因となる病理マーカーを変更する反事実画像をうまく合成できることが示されています。
DeCoDEx で生成された画像を使用した ERM および Group-DRO 分類器の拡張により、各クラスの分布外にある過小評価されているグループ全体の結果が大幅に改善されます。
コードは https://github.com/NimaFathi/DeCoDEx で公開されています。

要約(オリジナル)

Deep learning classifiers are prone to latching onto dominant confounders present in a dataset rather than on the causal markers associated with the target class, leading to poor generalization and biased predictions. Although explainability via counterfactual image generation has been successful at exposing the problem, bias mitigation strategies that permit accurate explainability in the presence of dominant and diverse artifacts remain unsolved. In this work, we propose the DeCoDEx framework and show how an external, pre-trained binary artifact detector can be leveraged during inference to guide a diffusion-based counterfactual image generator towards accurate explainability. Experiments on the CheXpert dataset, using both synthetic artifacts and real visual artifacts (support devices), show that the proposed method successfully synthesizes the counterfactual images that change the causal pathology markers associated with Pleural Effusion while preserving or ignoring the visual artifacts. Augmentation of ERM and Group-DRO classifiers with the DeCoDEx generated images substantially improves the results across underrepresented groups that are out of distribution for each class. The code is made publicly available at https://github.com/NimaFathi/DeCoDEx.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google