Dynamic Explanation Emphasis in Human-XAI Interaction with Communication Robot

要約

コミュニケーション ロボットは、テキストやグラフィックによる説明を超えたインターフェイスとして、人間と XAI の効果的な対話に貢献する可能性を秘めています。
身体表現や音声表現を使って、細かいニュアンスを説明に加えることができるのが強みです。
しかし、ロボットがそのような表現をどのように適用できるか、特に動的インタラクションにおいてタスクやユーザーに応じてそのような表現を適応的に使用するための戦略をどのように開発できるかは明らかではありません。
この問題に対処するために、本論文では、XAI が生成する物理的表現による説明をどこに強調するかをコミュニケーションロボットが決定する方法、DynEmph を提案します。
これは、特定の点を強調した場合のユーザーへの影響を予測し、予測されるユーザーの決定と AI が提案する決定との間の予想される差異を最小限に抑えることを目的としています。
DynEmph は、データ駆動型でどこを重視するかを決定するための戦略を備えており、エンジニアが手動で戦略を設計する必要性を軽減します。
さらに、強調選択戦略がユーザーの意思決定のパフォーマンスにどのような影響を与えるかを調査するための実験を実施しました。
この結果は、単純な戦略 (AI の最も可能性の高いクラスの説明を強調する) が必ずしもうまく機能するとは限らないが、AI の提案のパフォーマンスが高いという条件下では、DynEmph がユーザーをより適切な意思決定に効果的に導くことを示唆しています。

要約(オリジナル)

Communication robots have the potential to contribute to effective human-XAI interaction as an interface that goes beyond textual or graphical explanations. One of their strengths is that they can use physical and vocal expressions to add detailed nuances to explanations. However, it is not clear how a robot can apply such expressions, or in particular, how we can develop a strategy to adaptively use such expressions depending on the task and user in dynamic interactions. To address this question, this paper proposes DynEmph, a method for a communication robot to decide where to emphasize XAI-generated explanations with physical expressions. It predicts the effect of emphasizing certain points on a user and aims to minimize the expected difference between predicted user decisions and AI-suggested ones. DynEmph features a strategy for deciding where to emphasize in a data-driven manner, relieving engineers from the need to manually design a strategy. We further conducted experiments to investigate how emphasis selection strategies affect the performance of user decisions. The results suggest that, while a naive strategy (emphasizing explanations for an AI’s most probable class) does not necessarily work better, DynEmph effectively guides users to better decisions under the condition that the performance of the AI suggestion is high.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google