Metric Tools for Sensitivity Analysis with Applications to Neural Networks

要約

タイトル：ニューラルネットワークに応用される感度分析のためのメトリックツール

要約：
– 機械学習モデルが自律的な判断を下すようになるにつれ、これらのモデルの動作を理解する必要性が急速に高まっています。
– Explainable AI（XAI）は、機械学習モデルによる予測の解釈を提供することを目的とし、モデルを信頼性の高いものにし、ユーザーにより透明性のあるものにすることを目指しています。
– 入力変数の選択は、問題のための機械学習モデルの正確な学習と予測の能力に直接影響を与えるため、入力変数の重要性に関する情報を取得することが、モデルのトレーニングにおいて極めて重要です。
– この論文では、偏微分に基づく感度分析によって入力変数の重要性を把握するXAI技術の一つについて、そのメトリック手法を提供する理論的な枠組みが提案されています。
– このメトリック解釈から、$\alpha$-curveという新しい量的メトリックの完全な家族が抽出され、この$\alpha$-curveは、既存のXAI手法よりも深い情報を提供します。また、この$\alpha$-curveの有効性を、合成データセットと実データセットを用いて検証し、他のXAI方法と比較して解析結果を評価しています。

要約(オリジナル)

As Machine Learning models are considered for autonomous decisions with significant social impact, the need for understanding how these models work rises rapidly. Explainable Artificial Intelligence (XAI) aims to provide interpretations for predictions made by Machine Learning models, in order to make the model trustworthy and more transparent for the user. For example, selecting relevant input variables for the problem directly impacts the model’s ability to learn and make accurate predictions, so obtaining information about input importance play a crucial role when training the model. One of the main XAI techniques to obtain input variable importance is the sensitivity analysis based on partial derivatives. However, existing literature of this method provide no justification of the aggregation metrics used to retrieved information from the partial derivatives. In this paper, a theoretical framework is proposed to study sensitivities of ML models using metric techniques. From this metric interpretation, a complete family of new quantitative metrics called $\alpha$-curves is extracted. These $\alpha$-curves provide information with greater depth on the importance of the input variables for a machine learning model than existing XAI methods in the literature. We demonstrate the effectiveness of the $\alpha$-curves using synthetic and real datasets, comparing the results against other XAI methods for variable importance and validating the analysis results with the ground truth or literature information.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI