To Trust or Not to Trust: Towards a novel approach to measure trust for XAI systems

要約

ディープ ラーニング モデルへの依存度の増大と、その本質的な透明性の欠如が、eXplainable AI (XAI) 手法として知られる新しい研究分野の開発を促進しています。
これらの方法は、エンドユーザーの意思決定の背後にある理論的根拠についての洞察を提供することで、自動化システムに対するエンドユーザーの信頼を高めることを目指しています。
このペーパーでは、XAI システムに対するユーザーの信頼を測定し、改良を可能にする新しいアプローチを紹介します。
私たちが提案する指標は、客観的な観点からパフォーマンス指標と信頼指標の両方を組み合わせたものです。
この新しい方法論を検証するために、私たちは現実的な医療シナリオでケーススタディを実施しました。つまり、X 線画像から肺炎を検出するための XAI システムの使用です。

要約(オリジナル)

The increasing reliance on Deep Learning models, combined with their inherent lack of transparency, has spurred the development of a novel field of study known as eXplainable AI (XAI) methods. These methods seek to enhance the trust of end-users in automated systems by providing insights into the rationale behind their decisions. This paper presents a novel approach for measuring user trust in XAI systems, allowing their refinement. Our proposed metric combines both performance metrics and trust indicators from an objective perspective. To validate this novel methodology, we conducted a case study in a realistic medical scenario: the usage of XAI system for the detection of pneumonia from x-ray images.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google