Neuro-Symbolic Generation of Explanations for Robot Policies with Weighted Signal Temporal Logic

要約

ニューラルネットワークベースのポリシーは、多くのロボットアプリケーションで成功を実証していますが、多くの場合、人間の実現可能性が欠けており、安全性の高い展開に課題をもたらします。
これに対処するために、ロボットポリシーを解釈可能な形式で説明するために、加重信号時間論的論理（WSTL）仕様を生成するニューロシンボリック説明フレームワークを提案します。
既存の方法は通常、冗長で一貫性のない説明を生成します。これは、説明可能性とゆるいことを妨げます。これは、基礎となるポリシーについて意味のある洞察を与えません。
述語フィルタリング、正則化、および反復剪定からなる単純化プロセスを導入することにより、これらの問題に対処します。
また、従来の分類メトリックを超えた説明の品質を評価するために、3つの新しい説明可能性評価メトリック（簡潔さ、一貫性、厳格さ）も紹介します。
私たちの方法は、3つのシミュレートされたロボット環境で検証されており、分類の精度を犠牲にすることなく、簡潔で一貫した、厳格なWSTL説明を生成するベースラインを上回ります。
この作業は、ロボット工学におけるより安全で透明性のある意思決定に貢献して、正式な方法で政策学習を橋渡しします。

要約(オリジナル)

Neural network-based policies have demonstrated success in many robotic applications, but often lack human-explanability, which poses challenges in safety-critical deployments. To address this, we propose a neuro-symbolic explanation framework that generates a weighted signal temporal logic (wSTL) specification to describe a robot policy in a interpretable form. Existing methods typically produce explanations that are verbose and inconsistent, which hinders explainability, and loose, which do not give meaningful insights into the underlying policy. We address these issues by introducing a simplification process consisting of predicate filtering, regularization, and iterative pruning. We also introduce three novel explainability evaluation metrics — conciseness, consistency, and strictness — to assess explanation quality beyond conventional classification metrics. Our method is validated in three simulated robotic environments, where it outperforms baselines in generating concise, consistent, and strict wSTL explanations without sacrificing classification accuracy. This work bridges policy learning with formal methods, contributing to safer and more transparent decision-making in robotics.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google