ADESSE: Advice Explanations in Complex Repeated Decision-Making Environments

要約

人間中心の AI が進化する状況においては、意思決定プロセスにおいて人間と AI エージェントの間の相乗的な関係を促進することが最も重要な課題となっています。
この研究では、ニューラル ネットワーク ベースの予測コンポーネントと深層強化学習コンポーネントで構成されるインテリジェント エージェントが、複雑に繰り返される意思決定環境において人間の意思決定者にアドバイスを提供する問題設定を検討します。
人間の意思決定者がエージェントのアドバイスに従うかどうかは、エージェントに対する信念と信頼、そしてアドバイス自体の理解に依存します。
この目的を達成するために、人間の信頼と意思決定を向上させるためにアドバイザー エージェントに関する説明を生成する ADESSE というアプローチを開発しました。
さまざまなモデル サイズを使用したさまざまな環境での計算実験により、ADESSE の適用性と拡張性が実証されています。
さらに、インタラクティブなゲームベースのユーザー調査では、ADESSE によって生成された説明が提示された場合、参加者は大幅に満足し、ゲームでより高い報酬を獲得し、アクションを選択するのにかかる時間が短縮されたことが示されています。
これらの発見は、AI支援による意思決定において、カスタマイズされた人間中心の説明の重要な役割を明らかにしています。

要約(オリジナル)

In the evolving landscape of human-centered AI, fostering a synergistic relationship between humans and AI agents in decision-making processes stands as a paramount challenge. This work considers a problem setup where an intelligent agent comprising a neural network-based prediction component and a deep reinforcement learning component provides advice to a human decision-maker in complex repeated decision-making environments. Whether the human decision-maker would follow the agent’s advice depends on their beliefs and trust in the agent and on their understanding of the advice itself. To this end, we developed an approach named ADESSE to generate explanations about the adviser agent to improve human trust and decision-making. Computational experiments on a range of environments with varying model sizes demonstrate the applicability and scalability of ADESSE. Furthermore, an interactive game-based user study shows that participants were significantly more satisfied, achieved a higher reward in the game, and took less time to select an action when presented with explanations generated by ADESSE. These findings illuminate the critical role of tailored, human-centered explanations in AI-assisted decision-making.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google