HiTZ@Antidote: Argumentation-driven Explainable Artificial Intelligence for Digital Medicine

要約

機械学習に基づいた AI 予測に対する高品質の説明を提供することは、困難かつ複雑な作業です。
うまく機能するには、特に以下の要素が必要です。説明の一般性/具体性の適切なレベルを選択すること。
説明受益者の検討中の AI タスクへの精通度に関する仮定を考慮する。
決定に寄与した特定の要素に言及する。
予測プロセスの一部ではない可能性のある追加の知識（専門家の証拠など）を利用する。
そして否定的な仮説を裏付ける証拠を提供します。
最後に、システムは、明確に解釈可能で、場合によっては説得力のある方法で説明を定式化する必要があります。
これらの考慮事項を考慮して、ANTIDOTE は説明可能な AI の統合ビジョンを促進します。そこでは、深層学習プロセスの低レベルの特性が、人間の議論能力に適した高レベルのスキームと組み合わされます。
ANTIDOTE は、ディープラーニングと議論における学際的な能力を活用して、臨床症例の審議のための高品質な説明の必要性が重要である説明可能な AI のより広範で革新的なビューをサポートします。
プロジェクトの最初の成果として、説明可能な AI 一般、特に医療分野での議論に関する研究を促進するために、Antidote CasiMedicos データセットを公開します。

要約(オリジナル)

Providing high quality explanations for AI predictions based on machine learning is a challenging and complex task. To work well it requires, among other factors: selecting a proper level of generality/specificity of the explanation; considering assumptions about the familiarity of the explanation beneficiary with the AI task under consideration; referring to specific elements that have contributed to the decision; making use of additional knowledge (e.g. expert evidence) which might not be part of the prediction process; and providing evidence supporting negative hypothesis. Finally, the system needs to formulate the explanation in a clearly interpretable, and possibly convincing, way. Given these considerations, ANTIDOTE fosters an integrated vision of explainable AI, where low-level characteristics of the deep learning process are combined with higher level schemes proper of the human argumentation capacity. ANTIDOTE will exploit cross-disciplinary competences in deep learning and argumentation to support a broader and innovative view of explainable AI, where the need for high-quality explanations for clinical cases deliberation is critical. As a first result of the project, we publish the Antidote CasiMedicos dataset to facilitate research on explainable AI in general, and argumentation in the medical domain in particular.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google