Testing learning-enabled cyber-physical systems with Large-Language Models: A Formal Approach

要約

機械学習 (ML) をサイバーフィジカル システム (CPS) に統合すると、効率の向上、予測機能、リアルタイムの応答性、自律運用の可能化など、大きなメリットが得られます。
この融合により、自動運転車、配送ドローン、サービス ロボット、遠隔医療処置など、さまざまな現実世界のアプリケーションの開発と展開が加速しました。
ただし、AI を導入した CPS のソフトウェア開発ライフ サイクル (SDLC) は、データと学習を 2 つの重要なコンポーネントとして特徴づける従来のアプローチとは大きく異なります。
既存の検証および検証技術は、多くの場合、これらの新しいパラダイムには不十分です。
この研究では、学習可能な CPS の形式的安全性を確保する上での主な課題を特定します。まず、検証と検証のための最も実用的な方法としてテストを検討し、現在の最先端の方法論を要約します。
正式な安全保証を提供するための現在のテストアプローチには限界があることを認識し、私たちは基礎的な確率的テストから正式な保証を提供できるより厳格なアプローチに移行するためのロードマップを提案します。

要約(オリジナル)

The integration of machine learning (ML) into cyber-physical systems (CPS) offers significant benefits, including enhanced efficiency, predictive capabilities, real-time responsiveness, and the enabling of autonomous operations. This convergence has accelerated the development and deployment of a range of real-world applications, such as autonomous vehicles, delivery drones, service robots, and telemedicine procedures. However, the software development life cycle (SDLC) for AI-infused CPS diverges significantly from traditional approaches, featuring data and learning as two critical components. Existing verification and validation techniques are often inadequate for these new paradigms. In this study, we pinpoint the main challenges in ensuring formal safety for learningenabled CPS.We begin by examining testing as the most pragmatic method for verification and validation, summarizing the current state-of-the-art methodologies. Recognizing the limitations in current testing approaches to provide formal safety guarantees, we propose a roadmap to transition from foundational probabilistic testing to a more rigorous approach capable of delivering formal assurance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google