Providing personalized Explanations: a Conversational Approach

要約

AI システムのアプリケーションが増加すると、利害関係者はさまざまな知識や背景を持っている可能性があるため、さまざまな利害関係者に対して AI システムの動作を個別に説明する必要があります。
一般に、説明者と被説明者との会話により、説明者は被説明者の背景を知ることができるだけでなく、被説明者も説明をより深く理解することができる。
本稿では、説明者が被説明者と連続的に対話することにより、説明者に合わせた説明を行う手法を提案する。
被説明者が理解し、説明者が認識している最初の主張に対する説明が存在する限り、被説明者による最初の主張の正当化によって会話が終了することを証明します。

要約(オリジナル)

The increasing applications of AI systems require personalized explanations for their behaviors to various stakeholders since the stakeholders may have various knowledge and backgrounds. In general, a conversation between explainers and explainees not only allows explainers to obtain the explainees’ background, but also allows explainees to better understand the explanations. In this paper, we propose an approach for an explainer to communicate personalized explanations to an explainee through having consecutive conversations with the explainee. We prove that the conversation terminates due to the explainee’s justification of the initial claim as long as there exists an explanation for the initial claim that the explainee understands and the explainer is aware of.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google