On existence, uniqueness and scalability of adversarial robustness measures for AI classifiers

要約

(局所的に)一意可逆な分類器、一般化線形モデル(GLM)、エントロピックAI(EAI)における、最小敵対パス(MAP)と最小敵対距離(MAD)の存在、一意性、明示的な解析的計算のための、簡単に検証可能な数学的条件を定式化し、証明する。MAPとMADの実用的な計算、AIツールの様々なクラス（ニューロンネットワーク、ブースティングされたランダムフォレスト、GLM、EAI）に対するそれらの比較と解釈は、一般的な合成ベンチマーク：二重スイスロールスパイラルとその拡張、2つの生物医学データ問題（健康保険請求予測、心臓発作致死分類）で実証される。バイオメディカル応用では、MAPが、アクセス可能な制御変数の事前定義された部分集合において、いかにユニークな最小限の患者固有のリスク軽減介入を提供するかを実証する。

要約(オリジナル)

Simply-verifiable mathematical conditions for existence, uniqueness and explicit analytical computation of minimal adversarial paths (MAP) and minimal adversarial distances (MAD) for (locally) uniquely-invertible classifiers, for generalized linear models (GLM), and for entropic AI (EAI) are formulated and proven. Practical computation of MAP and MAD, their comparison and interpretations for various classes of AI tools (for neuronal networks, boosted random forests, GLM and EAI) are demonstrated on the common synthetic benchmarks: on a double Swiss roll spiral and its extensions, as well as on the two biomedical data problems (for the health insurance claim predictions, and for the heart attack lethality classification). On biomedical applications it is demonstrated how MAP provides unique minimal patient-specific risk-mitigating interventions in the predefined subsets of accessible control variables.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL