Science based AI model certification for new operational environments with application in traffic state estimation

要約

多様なエンジニアリング領域における人工知能 (AI) の役割の拡大は、データ収集とモデルのトレーニングへの多額の投資を伴う、新しい運用環境への AI モデルの導入に関連する課題を浮き彫りにしています。
AI を迅速に適用するには、追加データを最小限またはまったく使用せずに、観察されていない運用環境で事前トレーニングされたモデルを利用する実現可能性を評価する必要があります。
しかし、AI のブラックボックス モデルの不透明な性質を解釈することは、依然として根深い課題です。
この問題に対処するために、このペーパーでは、新しい運用環境で事前トレーニングされたデータ駆動型モデルを採用する可能性を評価するための、科学に基づいた認証方法を提案します。
この方法論は、物理学および関連分野の理論モデルと分析モデルを活用し、データ駆動型 AI モデルとドメイン知識を深く統合することを提唱しています。
この新しいアプローチは、安全なエンジニアリング システムの開発を促進するツールを導入し、限られたトレーニング データと動的で不確実な条件を特徴とする多様な環境において、意思決定者に AI ベースのモデルの信頼性と安全性に対する自信を提供します。
この論文では、実際の安全性が重要なシナリオ、特に交通状態の推定のコンテキストにおけるこの方法論の有効性を実証しています。
この研究は、シミュレーション結果を通じて、提案された方法論が事前トレーニングされた AI モデルによって示される物理的な不一致をどのように効率的に定量化するかを示しています。
この方法論は、分析モデルを利用することで、新しい運用環境における事前トレーニングされた AI モデルの適用可能性を評価する手段を提供します。
この研究は、AI モデルの理解と導入の促進に貢献し、さまざまな運用条件における信頼性と安全性に対する信頼を高める堅牢な認証フレームワークを提供します。

要約(オリジナル)

The expanding role of Artificial Intelligence (AI) in diverse engineering domains highlights the challenges associated with deploying AI models in new operational environments, involving substantial investments in data collection and model training. Rapid application of AI necessitates evaluating the feasibility of utilizing pre-trained models in unobserved operational settings with minimal or no additional data. However, interpreting the opaque nature of AI’s black-box models remains a persistent challenge. Addressing this issue, this paper proposes a science-based certification methodology to assess the viability of employing pre-trained data-driven models in new operational environments. The methodology advocates a profound integration of domain knowledge, leveraging theoretical and analytical models from physics and related disciplines, with data-driven AI models. This novel approach introduces tools to facilitate the development of secure engineering systems, providing decision-makers with confidence in the trustworthiness and safety of AI-based models across diverse environments characterized by limited training data and dynamic, uncertain conditions. The paper demonstrates the efficacy of this methodology in real-world safety-critical scenarios, particularly in the context of traffic state estimation. Through simulation results, the study illustrates how the proposed methodology efficiently quantifies physical inconsistencies exhibited by pre-trained AI models. By utilizing analytical models, the methodology offers a means to gauge the applicability of pre-trained AI models in new operational environments. This research contributes to advancing the understanding and deployment of AI models, offering a robust certification framework that enhances confidence in their reliability and safety across a spectrum of operational conditions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google