Explaining Decisions of Agents in Mixed-Motive Games

要約

近年、エージェントは、自然言語を介してシームレスにコミュニケーションをとり、協力と競争を伴う環境でナビゲートできるようになりました。これは、社会的ジレンマを導入できる事実です。
協力と競争のインターリーブにより、そのような環境でのエージェントの意思決定を理解することは困難であり、人間は説明を得ることで利益を得ることができます。
ただし、このような環境やシナリオは、説明可能なAIのコンテキストではめったに調査されていません。
協力環境のいくつかの説明方法は、混合競争のセットアップに適用できますが、アクションによるエージェント間の競争、安価な話、または暗黙のコミュニケーションには対処しません。
この作業では、これらの問題に対処するための説明方法を設計します。
次に、一般性を確立し、非常に異なるプロパティを持つ3つのゲームへのメソッドの適用性を実証します。
最後に、2つの混合競争的ゲームで人間の方法の有効性と有用性を示します。
1つ目は、ノープレス外交と呼ばれる挑戦的な7プレイヤーゲームです。
2つ目は、自然言語でのコミュニケーションを特徴とする囚人のジレンマに触発された3プレイヤーゲームです。

要約(オリジナル)

In recent years, agents have become capable of communicating seamlessly via natural language and navigating in environments that involve cooperation and competition, a fact that can introduce social dilemmas. Due to the interleaving of cooperation and competition, understanding agents’ decision-making in such environments is challenging, and humans can benefit from obtaining explanations. However, such environments and scenarios have rarely been explored in the context of explainable AI. While some explanation methods for cooperative environments can be applied in mixed-motive setups, they do not address inter-agent competition, cheap-talk, or implicit communication by actions. In this work, we design explanation methods to address these issues. Then, we proceed to establish generality and demonstrate the applicability of the methods to three games with vastly different properties. Lastly, we demonstrate the effectiveness and usefulness of the methods for humans in two mixed-motive games. The first is a challenging 7-player game called no-press Diplomacy. The second is a 3-player game inspired by the prisoner’s dilemma, featuring communication in natural language.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google