A Surrogate Model Framework for Explainable Autonomous Behaviour

要約

現在、産業界におけるロボットおよび自律システムの採用と展開は、安全性と説明責任に必要な透明性の欠如によって妨げられています。
基礎となる自律システムに依存せず、簡単に更新できる説明を提供する方法が必要です。
さらに、さまざまなレベルの専門知識を持つさまざまな関係者は、さまざまなレベルの情報を必要とします。
この作業では、サロゲート モデルを使用して、動作のアクティベーションの基礎となるポリシーに関する透明性を提供します。
これらのサロゲート モデルが、自律エージェントの動作を自然言語説明で使用するための説明可能なコンポーネントに効果的に分解できることを示します。

要約(オリジナル)

Adoption and deployment of robotic and autonomous systems in industry are currently hindered by the lack of transparency, required for safety and accountability. Methods for providing explanations are needed that are agnostic to the underlying autonomous system and easily updated. Furthermore, different stakeholders with varying levels of expertise, will require different levels of information. In this work, we use surrogate models to provide transparency as to the underlying policies for behaviour activation. We show that these surrogate models can effectively break down autonomous agents’ behaviour into explainable components for use in natural language explanations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google