Position Paper: Bridging the Gap Between Machine Learning and Sensitivity Analysis

要約

私たちは、機械学習 (ML) モデルやモデル構築プロセスの解釈は、環境モデリング、エンジニアリング、経済学などの多くの分野で複雑なシステムを説明するために使用される一般的な方法論である感度分析 (SA) の一種とみなすことができると主張します。
。
私たちは研究者と実践者の両方に向けて、ML での説明に対する統一された SA ベースのビューの利点と、関連研究を完全にクレジットする必要性について注意を促します。
私たちは、(a) ML プロセスが SA に適したシステムであること、(b) 既存の ML 解釈方法がこの観点にどのように関連しているか、(c) 他の SA 技術が ML にどのように適用できるかを正式に説明することで、両方の分野間のギャップを埋めます。
。

要約(オリジナル)

We argue that interpretations of machine learning (ML) models or the model-building process can bee seen as a form of sensitivity analysis (SA), a general methodology used to explain complex systems in many fields such as environmental modeling, engineering, or economics. We address both researchers and practitioners, calling attention to the benefits of a unified SA-based view of explanations in ML and the necessity to fully credit related work. We bridge the gap between both fields by formally describing how (a) the ML process is a system suitable for SA, (b) how existing ML interpretation methods relate to this perspective, and (c) how other SA techniques could be applied to ML.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google