Towards trustworthy multi-modal motion prediction: Holistic evaluation and interpretability of outputs

要約

他の道路エージェントの動きを予測することで、自動運転車は安全かつ効率的な経路計画を実行できるようになります。
道路管理者の動作は多くの要因に依存し、将来の可能性のある軌道の数は膨大になる可能性があるため (マルチモーダル)、このタスクは非常に複雑です。
マルチモーダル動き予測に対処するために提案された従来のアプローチのほとんどは、解釈可能性が限られた複雑な機械学習システムに基づいています。
さらに、現在のベンチマークで使用されている指標は、出力の多様性や許容性など、問題のすべての側面を評価しているわけではありません。
この研究では、信頼できる人工知能の設計要件の一部に基づいて、信頼できる動き予測システムの設計に向けて前進することを目指しています。
私たちは、評価基準、堅牢性、出力の解釈可能性に重点を置いています。
まず、評価指標を包括的に分析し、現在のベンチマークの主なギャップを特定し、新しい総合的な評価フレームワークを提案します。
次に、知覚システムのノイズをシミュレートすることにより、空間的および時間的なロバスト性を評価する方法を紹介します。
提案された評価フレームワークで出力の解釈可能性を高め、よりバランスの取れた結果を生成するために、マルチモーダル動き予測モデルに付加できる意図予測層を提案します。
このアプローチの有効性は、マルチモーダルな軌跡と意図の視覚化におけるさまざまな要素を調査する調査を通じて評価されます。
提案されたアプローチと発見は、自動運転車向けの信頼できる動作予測システムの開発に大きく貢献し、この分野を安全性と信頼性の向上に向けて前進させます。

要約(オリジナル)

Predicting the motion of other road agents enables autonomous vehicles to perform safe and efficient path planning. This task is very complex, as the behaviour of road agents depends on many factors and the number of possible future trajectories can be considerable (multi-modal). Most prior approaches proposed to address multi-modal motion prediction are based on complex machine learning systems that have limited interpretability. Moreover, the metrics used in current benchmarks do not evaluate all aspects of the problem, such as the diversity and admissibility of the output. In this work, we aim to advance towards the design of trustworthy motion prediction systems, based on some of the requirements for the design of Trustworthy Artificial Intelligence. We focus on evaluation criteria, robustness, and interpretability of outputs. First, we comprehensively analyse the evaluation metrics, identify the main gaps of current benchmarks, and propose a new holistic evaluation framework. We then introduce a method for the assessment of spatial and temporal robustness by simulating noise in the perception system. To enhance the interpretability of the outputs and generate more balanced results in the proposed evaluation framework, we propose an intent prediction layer that can be attached to multi-modal motion prediction models. The effectiveness of this approach is assessed through a survey that explores different elements in the visualization of the multi-modal trajectories and intentions. The proposed approach and findings make a significant contribution to the development of trustworthy motion prediction systems for autonomous vehicles, advancing the field towards greater safety and reliability.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google