SoK: Security and Privacy Risks of Medical AI

要約

テクノロジーとヘルスケアの統合により、人工知能と機械学習を活用したソフトウェア システムが医療製品とサービスの不可欠なコンポーネントとなった新時代の到来をもたらしました。
これらの進歩は、患者ケアと医療提供の効率を高める上で大きな期待をもたらしますが、機密の医療データとシステムの完全性が潜在的なサイバー攻撃にさらされることにもなります。
このペーパーでは、医療における AI/ML アプリケーションによってもたらされるセキュリティとプライバシーの脅威について検討します。
さまざまな医療分野にわたる既存の研究を徹底的に調査した結果、医療 AI システムを標的とした敵対的攻撃の理解に大きなギャップがあることが判明しました。
医療現場における特定の敵対的脅威モデルの概要を示し、脆弱なアプリケーション ドメインを特定することで、AI 主導の医療システムのセキュリティと回復力を調査する将来の研究の基礎を築きます。
さまざまな脅威モデルの分析と、さまざまな医療分野における敵対的攻撃の実現可能性調査を通じて、急速に進化する AI ヘルスケア テクノロジーの分野におけるサイバーセキュリティ研究の差し迫ったニーズについて、説得力のある洞察を提供します。

要約(オリジナル)

The integration of technology and healthcare has ushered in a new era where software systems, powered by artificial intelligence and machine learning, have become essential components of medical products and services. While these advancements hold great promise for enhancing patient care and healthcare delivery efficiency, they also expose sensitive medical data and system integrity to potential cyberattacks. This paper explores the security and privacy threats posed by AI/ML applications in healthcare. Through a thorough examination of existing research across a range of medical domains, we have identified significant gaps in understanding the adversarial attacks targeting medical AI systems. By outlining specific adversarial threat models for medical settings and identifying vulnerable application domains, we lay the groundwork for future research that investigates the security and resilience of AI-driven medical systems. Through our analysis of different threat models and feasibility studies on adversarial attacks in different medical domains, we provide compelling insights into the pressing need for cybersecurity research in the rapidly evolving field of AI healthcare technology.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google