From Black Boxes to Conversations: Incorporating XAI in a Conversational Agent

要約

Explainable AI (XAI) の目標は、人間に説明するために、ディープ ニューラル ネットワークなどのブラック ボックス モデルの推論プロセスへの洞察を提供する方法を設計することです。
社会科学の研究では、そのような説明は人間対人間の説明と同様に、会話形式であるべきであると述べられています。
この研究では、自然言語の理解および生成コンポーネントで構成されるエージェントの標準設計を使用して、会話型エージェントに XAI を組み込む方法を示します。
私たちは、ユーザーの情報ニーズを理解するために、品質管理された言い換えによって拡張された XAI 質問バンクに基づいて構築されています。
さらに、これらの質問に答えるための情報を提供する適切な説明方法について文献を系統的に調査し、包括的な提案リストを提示します。
私たちの取り組みは、説明エージェントとの機械学習モデルに関する真に自然な会話への第一歩です。
XAI の質問と対応する説明方法の包括的なリストは、他の研究者がユーザーの要求に対応するために必要な情報を提供するのに役立ちます。
今後の作業を容易にするために、ソース コードとデータを公開します。

要約(オリジナル)

The goal of Explainable AI (XAI) is to design methods to provide insights into the reasoning process of black-box models, such as deep neural networks, in order to explain them to humans. Social science research states that such explanations should be conversational, similar to human-to-human explanations. In this work, we show how to incorporate XAI in a conversational agent, using a standard design for the agent comprising natural language understanding and generation components. We build upon an XAI question bank, which we extend by quality-controlled paraphrases, to understand the user’s information needs. We further systematically survey the literature for suitable explanation methods that provide the information to answer those questions, and present a comprehensive list of suggestions. Our work is the first step towards truly natural conversations about machine learning models with an explanation agent. The comprehensive list of XAI questions and the corresponding explanation methods may support other researchers in providing the necessary information to address users’ demands. To facilitate future work, we release our source code and data.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google