DURA-CPS: A Multi-Role Orchestrator for Dependability Assurance in LLM-Enabled Cyber-Physical Systems

要約

サイバー物理システム（CPS）は、重要なアプリケーションで動作する高度なAI技術にますます依存しています。
ただし、従来の検証と検証方法は、AIコンポーネントの予測不可能で動的な性質を処理するのに苦労することがよくあります。
このホワイトペーパーでは、Multi-Roleのオーケストレーションを使用してAI駆動のCPSの反復保証プロセスを自動化する新しいフレームワークであるDura-CPSを紹介します。
シミュレートされた環境内で専用のエージェントに専門的な役割（安全監視、セキュリティ評価、障害インジェクション、回復計画など）を割り当てることにより、DURA-CPSは、さまざまな信頼性要件に対してAIの動作を継続的に評価および改良します。
AIベースのプランナーとの交差点をナビゲートする自律車両を含むケーススタディを通じて、フレームワークを実証します。
我々の結果は、DURA-CPSが脆弱性を効果的に検出し、パフォーマンスへの影響を管理し、適応型回復戦略をサポートし、それにより、安全性およびセキュリティクリティカルなシステムで厳格なV＆Vに構造化された拡張可能なソリューションを提供することを示しています。

要約(オリジナル)

Cyber-Physical Systems (CPS) increasingly depend on advanced AI techniques to operate in critical applications. However, traditional verification and validation methods often struggle to handle the unpredictable and dynamic nature of AI components. In this paper, we introduce DURA-CPS, a novel framework that employs multi-role orchestration to automate the iterative assurance process for AI-powered CPS. By assigning specialized roles (e.g., safety monitoring, security assessment, fault injection, and recovery planning) to dedicated agents within a simulated environment, DURA-CPS continuously evaluates and refines AI behavior against a range of dependability requirements. We demonstrate the framework through a case study involving an autonomous vehicle navigating an intersection with an AI-based planner. Our results show that DURA-CPS effectively detects vulnerabilities, manages performance impacts, and supports adaptive recovery strategies, thereby offering a structured and extensible solution for rigorous V&V in safety- and security-critical systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google