Reinforcement learning informed evolutionary search for autonomous systems testing

要約

進化的検索ベースの技術は、自律ロボット システムのテストに一般的に使用されます。
ただし、これらのアプローチは、多くの場合、テスト シナリオの評価に計算コストのかかるシミュレーター ベースのモデルに依存します。
検索ベースのテストの計算効率を向上させるために、ドメイン知識から得られる代理報酬を使用してトレーニングされた強化学習 (RL) エージェントで進化的検索 (ES) を強化することを提案します。
RIGAA (自律システム テストのための強化学習情報遺伝的アルゴリズム) として知られる私たちのアプローチでは、まず RL エージェントをトレーニングして問題の有用な制約を学習し、それを使用して検索アルゴリズムの初期母集団の特定の部分を生成します。
RL エージェントを検索プロセスに組み込むことで、最初から検索空間の有望な領域にアルゴリズムを誘導し、解空間のより効率的な探索を可能にすることを目指しています。
私たちは、自律型アリ ロボットの迷路生成と自律型車両の車線維持支援システムの道路トポロジー生成の 2 つのケース スタディで RIGAA を評価します。
どちらのケース スタディでも、RIGAA はより適切なソリューションに迅速に収束し、(平均的なテスト シナリオの適合性と多様性の観点から) より優れたテスト スイートを生成します。
RIGAA は、AmbieGen や Frenetic などの車両車線維持支援システム テスト用の最先端ツールよりも優れた性能を発揮します。

要約(オリジナル)

Evolutionary search-based techniques are commonly used for testing autonomous robotic systems. However, these approaches often rely on computationally expensive simulator-based models for test scenario evaluation. To improve the computational efficiency of the search-based testing, we propose augmenting the evolutionary search (ES) with a reinforcement learning (RL) agent trained using surrogate rewards derived from domain knowledge. In our approach, known as RIGAA (Reinforcement learning Informed Genetic Algorithm for Autonomous systems testing), we first train an RL agent to learn useful constraints of the problem and then use it to produce a certain part of the initial population of the search algorithm. By incorporating an RL agent into the search process, we aim to guide the algorithm towards promising regions of the search space from the start, enabling more efficient exploration of the solution space. We evaluate RIGAA on two case studies: maze generation for an autonomous ant robot and road topology generation for an autonomous vehicle lane keeping assist system. In both case studies, RIGAA converges faster to fitter solutions and produces a better test suite (in terms of average test scenario fitness and diversity). RIGAA also outperforms the state-of-the-art tools for vehicle lane keeping assist system testing, such as AmbieGen and Frenetic.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google