A Survey of Explainable AI in Deep Visual Modeling: Methods and Metrics

要約

ディープ ビジュアル モデルは、重要な分野で広く応用されています。
したがって、そのブラックボックスの性質は現在、研究コミュニティの大きな関心を集めています。
ディープ ビジュアル モデルを解釈するための方法と指標に焦点を当てた、Explainable AI の最初の調査を紹介します。
最先端の画期的な貢献をカバーし、既存の手法の分類学的編成を提供するだけでなく、さまざまな評価指標を発掘し、モデル説明のさまざまな特性の尺度としてそれらを照合します。
現在の傾向に関する洞察に満ちた議論に加えて、この研究の方向性に対する課題と将来の道筋についても議論します。

要約(オリジナル)

Deep visual models have widespread applications in high-stake domains. Hence, their black-box nature is currently attracting a large interest of the research community. We present the first survey in Explainable AI that focuses on the methods and metrics for interpreting deep visual models. Covering the landmark contributions along the state-of-the-art, we not only provide a taxonomic organization of the existing techniques, but also excavate a range of evaluation metrics and collate them as measures of different properties of model explanations. Along the insightful discussion on the current trends, we also discuss the challenges and future avenues for this research direction.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google