Pointwise-in-Time Explanation for Linear Temporal Logic Rules

要約

Explainable Planning (XAIP) という新しい分野は、自律エージェントの動作を人間の観察者に説明し記述するためのさまざまなアプローチを生み出しました。
多くは、エージェントの行動を、エージェントがその軌跡の中で従う制約、または「ルール」の観点から要約しています。
この研究では、要約から個々の軌跡の特定の瞬間に焦点を絞り、「時点ごとの」ビューを提供します。
線形時間論理 (LTL) ルールに基づいて定義した新しいフレームワークは、個々のタイム ステップでの軌跡の進行状況を記述するために、任意のルールに直感的なステータスを割り当てます。
ここでは、ルールはアクティブ、満足、非アクティブ、または違反として分類されます。
軌道が与えられると、ユーザーは個々の軌道タイム ステップでの特定の LTL ルールのステータスをクエリできます。
このペーパーでは、ルール ステータス アセスメント (RSA) と呼ばれるこの新しいフレームワークを紹介し、その実装例を示します。
私たちは、ポイントごとのステータス評価が事後診断として有用であり、ユーザーが一連のルールに対するエージェントの動作を体系的に追跡できるようにすることを発見しました。

要約(オリジナル)

The new field of Explainable Planning (XAIP) has produced a variety of approaches to explain and describe the behavior of autonomous agents to human observers. Many summarize agent behavior in terms of the constraints, or ”rules,” which the agent adheres to during its trajectories. In this work, we narrow the focus from summary to specific moments in individual trajectories, offering a ”pointwise-in-time” view. Our novel framework, which we define on Linear Temporal Logic (LTL) rules, assigns an intuitive status to any rule in order to describe the trajectory progress at individual time steps; here, a rule is classified as active, satisfied, inactive, or violated. Given a trajectory, a user may query for status of specific LTL rules at individual trajectory time steps. In this paper, we present this novel framework, named Rule Status Assessment (RSA), and provide an example of its implementation. We find that pointwise-in-time status assessment is useful as a post-hoc diagnostic, enabling a user to systematically track the agent’s behavior with respect to a set of rules.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google