Towards an Evaluation Framework for Explainable Artificial Intelligence Systems for Health and Well-being

要約

コンピューターシステムの開発における人工知能の統合は、新しい課題を提示します。人間がインテリジェントなシステムを説明できるようにします。
これは、意思決定支援システムの透明性により、医療従事者が自動化された意思決定と予測を理解し、信頼することができる健康と幸福の分野では特に重要です。
このニーズに対処するには、説明可能なAIシステムの開発をガイドするためのツールが必要です。
この論文では、健康と幸福のための説明可能なAIシステムの開発をサポートするために設計された評価フレームワークを紹介します。
さらに、実際のフレームワークの適用を示すケーススタディを提示します。
私たちのフレームワークは、ヘルスケアで説明可能なAIシステムを開発するだけでなく、個人に大きな影響を与えるAIシステムにとっても貴重なツールとして機能すると考えています。

要約(オリジナル)

The integration of Artificial Intelligence in the development of computer systems presents a new challenge: make intelligent systems explainable to humans. This is especially vital in the field of health and well-being, where transparency in decision support systems enables healthcare professionals to understand and trust automated decisions and predictions. To address this need, tools are required to guide the development of explainable AI systems. In this paper, we introduce an evaluation framework designed to support the development of explainable AI systems for health and well-being. Additionally, we present a case study that illustrates the application of the framework in practice. We believe that our framework can serve as a valuable tool not only for developing explainable AI systems in healthcare but also for any AI system that has a significant impact on individuals.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google