A Dempster-Shafer approach to trustworthy AI with application to fetal brain MRI segmentation

要約

医用画像セグメンテーション用の深層学習モデルは、病理学的症例やトレーニング画像とは別の施設で取得された画像に対して、専門知識に反するラベル付けエラーにより予期せず見事に失敗する可能性があります。
このようなエラーは、医療画像セグメンテーション用の深層学習モデルの信頼性を損ないます。
このような障害を検出して修正するメカニズムは、このテクノロジーを安全に診療所に導入するために不可欠であり、人工知能 (AI) に関する将来の規制の要件となる可能性があります。
この研究では、デンプスター・シェーファー理論に基づいたフォールバック手法とフェイルセーフ機構を使用して、信頼できる AI 理論フレームワークとバックボーン AI システムを強化できる実用的なシステムを提案します。
私たちのアプローチは、信頼できる AI の実用的な定義に基づいています。
私たちの手法は、専門知識に違反するバックボーン AI によって予測されたボクセルレベルのラベリングを自動的に破棄し、それらのボクセルのフォールバックに依存します。
我々は、13 施設からの手動で注釈が付けられた 540 個の胎児脳 3D T2w MRI で構成される、報告されている最大の注釈付き胎児 MRI データセットに対して、提案された信頼できる AI アプローチの有効性を実証します。
当社の信頼できる AI 手法は、さまざまなセンターで取得された胎児脳 MRI やさまざまな脳異常のある胎児に対する最先端のバックボーン AI の堅牢性を向上させます。

要約(オリジナル)

Deep learning models for medical image segmentation can fail unexpectedly and spectacularly for pathological cases and images acquired at different centers than training images, with labeling errors that violate expert knowledge. Such errors undermine the trustworthiness of deep learning models for medical image segmentation. Mechanisms for detecting and correcting such failures are essential for safely translating this technology into clinics and are likely to be a requirement of future regulations on artificial intelligence (AI). In this work, we propose a trustworthy AI theoretical framework and a practical system that can augment any backbone AI system using a fallback method and a fail-safe mechanism based on Dempster-Shafer theory. Our approach relies on an actionable definition of trustworthy AI. Our method automatically discards the voxel-level labeling predicted by the backbone AI that violate expert knowledge and relies on a fallback for those voxels. We demonstrate the effectiveness of the proposed trustworthy AI approach on the largest reported annotated dataset of fetal MRI consisting of 540 manually annotated fetal brain 3D T2w MRIs from 13 centers. Our trustworthy AI method improves the robustness of a state-of-the-art backbone AI for fetal brain MRIs acquired across various centers and for fetuses with various brain abnormalities.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google