Robustness and Visual Explanation for Black Box Image, Video, and ECG Signal Classification with Reinforcement Learning

要約

ECG 信号分析 (1D)、画像分類 (2D)、ビデオ分類 (3D) に及ぶさまざまなモデル タイプに対する敵対的攻撃を作成するために最適化された、汎用の強化学習 (RL) フレームワークを紹介します。
このフレームワークは、最小限の歪みとさまざまなタイプの歪みで、敏感な領域を特定し、誤分類を誘発することに重点を置いています。
新しい RL メソッドは、3 つのアプリケーションすべてにおいて最先端のメソッドを上回っており、その効率性が証明されています。
当社の RL アプローチは優れた位置特定マスクを生成し、画像分類および ECG 分析モデルの解釈可能性を高めます。
ECG 分析などのアプリケーションの場合、当社のプラットフォームは、蔓延する歪みに対する回復力を確保しながら、臨床医にとって重要な ECG セグメントを強調表示します。
この包括的なツールは、敵対的トレーニングによる回復力と、さまざまなアプリケーションやデータ タイプにわたる透明性の両方を強化することを目的としています。

要約(オリジナル)

We present a generic Reinforcement Learning (RL) framework optimized for crafting adversarial attacks on different model types spanning from ECG signal analysis (1D), image classification (2D), and video classification (3D). The framework focuses on identifying sensitive regions and inducing misclassifications with minimal distortions and various distortion types. The novel RL method outperforms state-of-the-art methods for all three applications, proving its efficiency. Our RL approach produces superior localization masks, enhancing interpretability for image classification and ECG analysis models. For applications such as ECG analysis, our platform highlights critical ECG segments for clinicians while ensuring resilience against prevalent distortions. This comprehensive tool aims to bolster both resilience with adversarial training and transparency across varied applications and data types.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google