RAISE — Radiology AI Safety, an End-to-end lifecycle approach

要約

放射線医学への AI の統合は、臨床ケアの提供と効率を向上させる機会をもたらしますが、他の新しいテクノロジーと同様に、潜在的なリスクを軽減するための細心の注意を払う必要があります。
導入前の厳格な評価と検証から始めて、モデルが意図した用途に対して最高の安全性、有効性、有効性の基準を満たしていることを確認することに重点を置く必要があります。
実稼働使用中に実装された入力および出力ガードレールは、追加の保護層として機能し、発生した個々の障害を特定して対処します。
導入後の継続的なモニタリングにより、集団レベルのパフォーマンス (データ ドリフト)、公平性、および価値の提供を長期にわたって追跡できます。
AI を臨床現場で効果的に活用するには、展開後のモデルのパフォーマンスのレビューをスケジュールし、アルゴリズムに基づいた新しい所見について放射線科医を教育することが重要です。
使用目的が限定されている場合でも、単一の AI ソリューションでは絶対的な保証を提供できないことを認識し、規制、臨床、技術、倫理などの複数のレベルでの品質保証の相乗的適用が強調されています。
関連する多面的な課題に対処するには、医療システム、産業界、学界、政府にわたる関係者間の協力的な取り組みが不可欠です。
AI への信頼は獲得した特権であり、幅広い目標を条件としており、その中には、AI が他の確立された医療技術と同じ厳格な安全性、有効性、有効性の基準を遵守していることを透明に示すことが含まれます。
そうすることで、開発者は医療提供者と患者の両方に信頼を植え付けることができ、責任を持って AI を拡張し、その潜在的な利点を実現することが可能になります。
ここで提示されるロードマップは、放射線医学における導入可能で信頼性が高く安全な AI の実現を促進することを目的としています。

要約(オリジナル)

The integration of AI into radiology introduces opportunities for improved clinical care provision and efficiency but it demands a meticulous approach to mitigate potential risks as with any other new technology. Beginning with rigorous pre-deployment evaluation and validation, the focus should be on ensuring models meet the highest standards of safety, effectiveness and efficacy for their intended applications. Input and output guardrails implemented during production usage act as an additional layer of protection, identifying and addressing individual failures as they occur. Continuous post-deployment monitoring allows for tracking population-level performance (data drift), fairness, and value delivery over time. Scheduling reviews of post-deployment model performance and educating radiologists about new algorithmic-driven findings is critical for AI to be effective in clinical practice. Recognizing that no single AI solution can provide absolute assurance even when limited to its intended use, the synergistic application of quality assurance at multiple levels – regulatory, clinical, technical, and ethical – is emphasized. Collaborative efforts between stakeholders spanning healthcare systems, industry, academia, and government are imperative to address the multifaceted challenges involved. Trust in AI is an earned privilege, contingent on a broad set of goals, among them transparently demonstrating that the AI adheres to the same rigorous safety, effectiveness and efficacy standards as other established medical technologies. By doing so, developers can instil confidence among providers and patients alike, enabling the responsible scaling of AI and the realization of its potential benefits. The roadmap presented herein aims to expedite the achievement of deployable, reliable, and safe AI in radiology.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google