Explaining Control Policies through Predicate Decision Diagrams

要約

複雑なシステムの安全性の高いコントローラーは、手動で構築するのが困難です。
コントローラーの合成や学習などの自動化されたアプローチは、魅力的な代替手段を提供しますが、通常は説明可能性がありません。
この目的のために、学習決定ツリー（DT）は、生成されたコントローラーの解釈可能なモデルに一般的に使用されてきました。
ただし、DTは共有意思決定を活用しません。これは、サイズを縮小して説明可能性を向上させるために、バイナリ決定図（BDD）で活用された重要な概念です。
この作業では、BDDを述語で拡張する述語決定図（PDD）を紹介し、したがって、コントローラー表現のDTSとBDDの利点を統合します。
コントローラーを表すDTSからPDDを効率的に構築するための合成パイプラインを確立し、PDDのBDDの削減技術を活用しています。

要約(オリジナル)

Safety-critical controllers of complex systems are hard to construct manually. Automated approaches such as controller synthesis or learning provide a tempting alternative but usually lack explainability. To this end, learning decision trees (DTs) have been prevalently used towards an interpretable model of the generated controllers. However, DTs do not exploit shared decision-making, a key concept exploited in binary decision diagrams (BDDs) to reduce their size and thus improve explainability. In this work, we introduce predicate decision diagrams (PDDs) that extend BDDs with predicates and thus unite the advantages of DTs and BDDs for controller representation. We establish a synthesis pipeline for efficient construction of PDDs from DTs representing controllers, exploiting reduction techniques for BDDs also for PDDs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google