Systematically Assessing the Security Risks of AI/ML-enabled Connected Healthcare Systems

要約

ヘルスケア分野における機械学習対応システムの導入は増加しています。
医療における ML の使用にはいくつかの利点がありますが、医療システムの脅威の対象領域も拡大します。
私たちは、医療システム、特に ML エンジンと複数の周辺機器のインターフェイスを必要とする接続システムにおける ML の使用には、敵対的な介入があった場合に患者の健康に生命を脅かす損害を引き起こす可能性があるセキュリティ リスクがあることを示します。
これらの新たなリスクは、周辺機器や通信チャネルのセキュリティの脆弱性によって発生します。
推論中に敵対的なデータ ポイントを導入することによって、ML 対応の血糖モニタリング システムに対する攻撃を実証するケース スタディを紹介します。
攻撃者が血糖計と ML 対応アプリを接続する Bluetooth 通信チャネルの既知の脆弱性を悪用することで、これを達成できることを示します。
さらに、最先端のリスク評価技術は、これらの新たなリスクを特定して評価するには不十分であることも示します。
私たちの研究は、AI 対応のコネクテッド ヘルス デバイスのセキュリティを分析するための新しいリスク分析手法の必要性を浮き彫りにしています。

要約(オリジナル)

The adoption of machine-learning-enabled systems in the healthcare domain is on the rise. While the use of ML in healthcare has several benefits, it also expands the threat surface of medical systems. We show that the use of ML in medical systems, particularly connected systems that involve interfacing the ML engine with multiple peripheral devices, has security risks that might cause life-threatening damage to a patient’s health in case of adversarial interventions. These new risks arise due to security vulnerabilities in the peripheral devices and communication channels. We present a case study where we demonstrate an attack on an ML-enabled blood glucose monitoring system by introducing adversarial data points during inference. We show that an adversary can achieve this by exploiting a known vulnerability in the Bluetooth communication channel connecting the glucose meter with the ML-enabled app. We further show that state-of-the-art risk assessment techniques are not adequate for identifying and assessing these new risks. Our study highlights the need for novel risk analysis methods for analyzing the security of AI-enabled connected health devices.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google