Semi-supervised Semantics-guided Adversarial Training for Trajectory Prediction

要約

周囲の物体の軌跡を予測することは、自動運転車やその他の多くの自律システムにとって重要なタスクです。
最近の研究では、小さな細工された摂動が履歴軌跡に導入される軌跡予測に対する敵対的攻撃が、将来の軌跡の予測を大幅に誤解させ、安全でない計画を誘発する可能性があることが示されています。
ただし、この重要な安全上重要なタスクのロバスト性の強化に取り組んだ研究はほとんどありません。
画像タスクに関する典型的な敵対的トレーニングと比較して、私たちの作業は、豊富なコンテキストとクラスラベルの欠如を伴うよりランダムな入力によって挑戦されます.
これらの課題に対処するために、半教師付き敵対的オートエンコーダーに基づく方法を提案します。これは、ドメイン知識を使用して解きほぐされたセマンティック機能をモデル化し、敵対的トレーニングに追加の潜在ラベルを提供します。
さまざまな種類の攻撃を使用した広範な実験により、当社の半教師付きセマンティクスに基づく敵対的トレーニング (SSAT) メソッドが敵対的攻撃の影響を最大 73% 効果的に軽減し、他の一般的な防御方法よりも優れていることが示されています。
さらに、実験は、我々の方法が攻撃の目に見えないパターンへのシステムの堅牢な一般化を大幅に改善できることを示しています。
このようなセマンティクスに基づくアーキテクチャと堅牢な一般化の進歩は、堅牢な予測モデルを開発し、安全な意思決定を可能にするための重要なステップであると考えています。

要約(オリジナル)

Predicting the trajectories of surrounding objects is a critical task for self-driving vehicles and many other autonomous systems. Recent works demonstrate that adversarial attacks on trajectory prediction, where small crafted perturbations are introduced to history trajectories, may significantly mislead the prediction of future trajectories and induce unsafe planning. However, few works have addressed enhancing the robustness of this important safety-critical task.In this paper, we present a novel adversarial training method for trajectory prediction. Compared with typical adversarial training on image tasks, our work is challenged by more random input with rich context and a lack of class labels. To address these challenges, we propose a method based on a semi-supervised adversarial autoencoder, which models disentangled semantic features with domain knowledge and provides additional latent labels for the adversarial training. Extensive experiments with different types of attacks demonstrate that our Semisupervised Semantics-guided Adversarial Training (SSAT) method can effectively mitigate the impact of adversarial attacks by up to 73% and outperform other popular defense methods. In addition, experiments show that our method can significantly improve the system’s robust generalization to unseen patterns of attacks. We believe that such semantics-guided architecture and advancement on robust generalization is an important step for developing robust prediction models and enabling safe decision-making.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google