Directive Explanations for Monitoring the Risk of Diabetes Onset: Introducing Directive Data-Centric Explanations and Combinations to Support What-If Explorations

要約

説明可能な人工知能は、ヘルスケアにおける機械学習 (ML) ベースの意思決定システムでますます使用されています。
しかし、医療専門家を患者ケアに導く際のさまざまな説明方法の有用性を比較した研究はほとんどありません。
さらに、技術的な ML の知識を必要とすることが多いため、これらの方法が医療専門家にとってどれほど有用で、理解しやすく、実用的で、信頼できるかは不明です。
このホワイト ペーパーでは、糖尿病発症のリスクを予測する説明ダッシュボードを提示し、それらの予測をデータ中心、機能の重要性、および例に基づく説明で説明します。
看護師や医師などの医療専門家が糖尿病発症のリスクを監視し、リスクを最小限に抑えるための対策を推奨するのに役立つインタラクティブなダッシュボードを設計しました。
11 人の医療専門家を対象とした定性調査と、45 人の医療専門家と 51 人の糖尿病患者を対象とした混合法調査を実施し、理解可能性、有用性、実行可能性、および信頼性の観点から、ダッシュボードでのさまざまな説明方法を比較しました。
結果は、参加者が他の方法よりもローカルな説明とグローバルな概要を提供するデータ中心の説明の表現を好んだことを示しています。
したがって、このホワイトペーパーでは、ヘルスケアの専門家が患者の健康記録から実用的な洞察を得るのを支援するための、視覚的に指示されたデータ中心の説明方法の重要性を強調しています。
さらに、医療専門家向けにさまざまな説明方法の視覚的表現を調整するためのデザインの意味を共有します。

要約(オリジナル)

Explainable artificial intelligence is increasingly used in machine learning (ML) based decision-making systems in healthcare. However, little research has compared the utility of different explanation methods in guiding healthcare experts for patient care. Moreover, it is unclear how useful, understandable, actionable and trustworthy these methods are for healthcare experts, as they often require technical ML knowledge. This paper presents an explanation dashboard that predicts the risk of diabetes onset and explains those predictions with data-centric, feature-importance, and example-based explanations. We designed an interactive dashboard to assist healthcare experts, such as nurses and physicians, in monitoring the risk of diabetes onset and recommending measures to minimize risk. We conducted a qualitative study with 11 healthcare experts and a mixed-methods study with 45 healthcare experts and 51 diabetic patients to compare the different explanation methods in our dashboard in terms of understandability, usefulness, actionability, and trust. Results indicate that our participants preferred our representation of data-centric explanations that provide local explanations with a global overview over other methods. Therefore, this paper highlights the importance of visually directive data-centric explanation method for assisting healthcare experts to gain actionable insights from patient health records. Furthermore, we share our design implications for tailoring the visual representation of different explanation methods for healthcare experts.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google