Enhancing System Self-Awareness and Trust of AI: A Case Study in Trajectory Prediction and Planning

要約

自動運転の軌跡計画では、他の道路利用者の緊急行動を予測するために、データ駆動型の統計人工知能（AI）方法がますます確立されています。
これらの方法は、定義されたデータセットで例外的なパフォーマンスを実現しますが、通常、独立した同一に分布した（I.I.D.）仮定に依存しているため、現実世界で発生する分布シフトに対して脆弱である傾向があります。
さらに、これらの方法は、ブラックボックスの性質のために説明可能性を欠いており、承認プロセスと社会的信頼性の観点からさらに課題をもたらします。
したがって、データ駆動型の統計的AIメソッドの機能を信頼できる信頼できる方法で使用するために、TrustMHEの概念をこのペーパーで紹介および調査します。
TrustMheは、基礎となるAIシステムとは無関係に、AI駆動型の分散除外検出と制御駆動型の移動ホライズン推定（MHE）を組み合わせて、検出と監視だけでなく介入も可能にする補完的なアプローチを表します。
提案された信託の有効性は、3つのシミュレーションシナリオで評価および証明されています。

要約(オリジナル)

In the trajectory planning of automated driving, data-driven statistical artificial intelligence (AI) methods are increasingly established for predicting the emergent behavior of other road users. While these methods achieve exceptional performance in defined datasets, they usually rely on the independent and identically distributed (i.i.d.) assumption and thus tend to be vulnerable to distribution shifts that occur in the real world. In addition, these methods lack explainability due to their black box nature, which poses further challenges in terms of the approval process and social trustworthiness. Therefore, in order to use the capabilities of data-driven statistical AI methods in a reliable and trustworthy manner, the concept of TrustMHE is introduced and investigated in this paper. TrustMHE represents a complementary approach, independent of the underlying AI systems, that combines AI-driven out-of-distribution detection with control-driven moving horizon estimation (MHE) to enable not only detection and monitoring, but also intervention. The effectiveness of the proposed TrustMHE is evaluated and proven in three simulation scenarios.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google