Towards Human-centered Explainable AI: A Survey of User Studies for Model Explanations

要約

Explainable AI (XAI) は、拡大し続ける AI 研究の必須条件として広く認識されています。
XAI ユーザーのニーズをより深く理解すること、および説明可能なモデルの人間中心の評価は必要不可欠であると同時に課題でもあります。
このペーパーでは、HCI と AI の研究者が体系的な文献レビューに基づいて、XAI アプリケーションでユーザー調査をどのように実施するかを検討します。
過去5年間に人間ベースのXAI評価を行った97のコア論文を特定して徹底的に分析した後、信頼性、理解、使いやすさ、人間とAIのコラボレーションパフォーマンスなど、説明手法の測定された特性に沿ってそれらを分類しました。
私たちの調査によると、XAI はレコメンダー システムなどの特定のアプリケーション ドメインで他の分野よりも急速に普及していますが、ユーザーの評価はまだまばらで、認知科学や社会科学からの洞察がほとんど組み込まれていないことがわかりました。
ベスト プラクティス、つまりユーザー調査における一般的なモデル、設計の選択肢、尺度に関する包括的な議論に基づいて、XAI 研究者と実践者向けにユーザー調査の設計と実施に関する実践的なガイドラインを提案します。
最後に、この調査では、特に心理学と人間中心の XAI を結び付ける、いくつかのオープンな研究の方向性も強調しています。

要約(オリジナル)

Explainable AI (XAI) is widely viewed as a sine qua non for ever-expanding AI research. A better understanding of the needs of XAI users, as well as human-centered evaluations of explainable models are both a necessity and a challenge. In this paper, we explore how HCI and AI researchers conduct user studies in XAI applications based on a systematic literature review. After identifying and thoroughly analyzing 97core papers with human-based XAI evaluations over the past five years, we categorize them along the measured characteristics of explanatory methods, namely trust, understanding, usability, and human-AI collaboration performance. Our research shows that XAI is spreading more rapidly in certain application domains, such as recommender systems than in others, but that user evaluations are still rather sparse and incorporate hardly any insights from cognitive or social sciences. Based on a comprehensive discussion of best practices, i.e., common models, design choices, and measures in user studies, we propose practical guidelines on designing and conducting user studies for XAI researchers and practitioners. Lastly, this survey also highlights several open research directions, particularly linking psychological science and human-centered XAI.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google