KnowSafe: Combined Knowledge and Data Driven Hazard Mitigation in Artificial Pancreas Systems

要約

サイバーフィジカルシステム (CPS) の安全性とセキュリティを向上させるために、異常検出と実行時監視が大幅に進歩しました。
しかし、危険の軽減にはあまり注意が払われてきませんでした。
この論文では、CPS コントローラーを標的としたセーフティクリティカルな悪意のある攻撃や偶発的な障害から生じる安全上の危険を予測および軽減できるセーフティ エンジンの設計のための、知識とデータを組み合わせたアプローチである KnowSafe を提案します。
当社は、安全制約に関するドメイン固有の知識とコンテキスト固有の緩和アクションを機械学習 (ML) 技術と統合して、遠い将来および近い将来のシステムの軌道を推定し、潜在的な危険を推測し、システムの安全を保つための最適な修正措置を生成します。
人工膵臓システム (APS) 用の 2 つの現実的な閉ループ テストベッドと糖尿病治療のための現実世界の臨床試験データセットでの実験評価により、KnowSafe がシステム状態の軌道と可能性の予測においてより高い精度を達成することにより、最先端のものよりも優れていることが実証されました。
危険性があり、偽陽性率が低く、偽陰性がありません。
また、障害や攻撃があっても、新たな危険をもたらすことなく、シミュレートされた APS の安全な動作を維持します。危険軽減の成功率は 92.8% で、これはルールベース (50.9%) およびデータ駆動のみより少なくとも 76% 高くなります。
(52.7%) の方法。

要約(オリジナル)

Significant progress has been made in anomaly detection and run-time monitoring to improve the safety and security of cyber-physical systems (CPS). However, less attention has been paid to hazard mitigation. This paper proposes a combined knowledge and data driven approach, KnowSafe, for the design of safety engines that can predict and mitigate safety hazards resulting from safety-critical malicious attacks or accidental faults targeting a CPS controller. We integrate domain-specific knowledge of safety constraints and context-specific mitigation actions with machine learning (ML) techniques to estimate system trajectories in the far and near future, infer potential hazards, and generate optimal corrective actions to keep the system safe. Experimental evaluation on two realistic closed-loop testbeds for artificial pancreas systems (APS) and a real-world clinical trial dataset for diabetes treatment demonstrates that KnowSafe outperforms the state-of-the-art by achieving higher accuracy in predicting system state trajectories and potential hazards, a low false positive rate, and no false negatives. It also maintains the safe operation of the simulated APS despite faults or attacks without introducing any new hazards, with a hazard mitigation success rate of 92.8%, which is at least 76% higher than solely rule-based (50.9%) and data-driven (52.7%) methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google