Explainable AI applications in the Medical Domain: a systematic review

要約

医療における人工知能は、医療画像、患者ケア、その他の分野での新たな応用により大きな進歩を遂げています。
これらのアプリケーションは遡及研究で成功していることが証明されていますが、実際に適用されたものはほとんどありません。医療 AI の分野は、ユーザーの信頼の構築、規制の順守、データの倫理的使用の点で、さまざまな課題に直面しています。Explainable AI (XAI) の目的は、
人間が AI を理解し、その結果を信頼できるようになります。
この論文では、近年出版された 198 件の論文の代表的なサンプルに基づいて、医療意思決定支援のための XAI ソリューションの最近の開発に関する文献レビューを紹介します。
関連記事を体系的に統合した結果、いくつかの発見が得られました。
(1) これらのソリューションではモデルに依存しない XAI 技術が主に使用され、(2) ディープラーニング モデルは他のタイプの機械学習モデルよりも多く利用され、(3) 説明可能性は信頼を促進するために適用されましたが、医師の参加を報告した研究はほとんどありませんでした。
ループ内では、(4) 視覚的でインタラクティブなユーザー インターフェイスは、システムの説明と推奨事項を理解するのにさらに役立ちます。
医療における XAI ソリューションの設計、実装、評価に適したフレームワークの開発を導くためには、医療と AI の専門家が協力してさらなる研究が必要です。

要約(オリジナル)

Artificial Intelligence in Medicine has made significant progress with emerging applications in medical imaging, patient care, and other areas. While these applications have proven successful in retrospective studies, very few of them were applied in practice.The field of Medical AI faces various challenges, in terms of building user trust, complying with regulations, using data ethically.Explainable AI (XAI) aims to enable humans understand AI and trust its results. This paper presents a literature review on the recent developments of XAI solutions for medical decision support, based on a representative sample of 198 articles published in recent years. The systematic synthesis of the relevant articles resulted in several findings. (1) model-agnostic XAI techniques were mostly employed in these solutions, (2) deep learning models are utilized more than other types of machine learning models, (3) explainability was applied to promote trust, but very few works reported the physicians participation in the loop, (4) visual and interactive user interface is more useful in understanding the explanation and the recommendation of the system. More research is needed in collaboration between medical and AI experts, that could guide the development of suitable frameworks for the design, implementation, and evaluation of XAI solutions in medicine.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google