Contrastive Explanations of Centralized Multi-agent Optimization Solutions

要約

現実世界の多くのシナリオでは、エージェントは最適化問題に関与します。
これらのシナリオのほとんどは過度に制約されているため、最適なソリューションが必ずしもすべてのエージェントを満足させるとは限りません。
エージェントによっては不満を抱き、「なぜ解 $S$ が特性 $P$ を満たさないのか?」という形式の質問をする人もいるかもしれません。
我々は、次のことによって対照的な説明を得るドメイン独立アプローチである CMAoE を提案します: (i) $S$ と $S^\ の間の差異を最小限に抑えながら、プロパティ $P$ が強制される新しい解 $S^\prime$ を生成する
プライム$;
(ii) マルチエージェント システムの目的関数の特徴に関して、2 つのソリューション間の違いを強調します。
このような説明は、マルチエージェント システムのコンテキストにおいて最初のソリューションが期待より優れている理由をエージェントが理解できるようにすることを目的としています。
我々は、CMAoE が大規模なマルチエージェント最適化問題に対して対照的な説明を生成できることを示す計算評価を実行しました。
また、4 つの異なる領域で広範なユーザー調査を実施しました。その結果、次のことがわかりました。(i) これらの説明を提示された後、元のソリューションに対する人間の満足度が高まります。
(ii) CMAoE によって生成された対照的な説明は、最先端のアプローチによって生成されたものよりも人間によって好まれるか、または同等に好まれます。

要約(オリジナル)

In many real-world scenarios, agents are involved in optimization problems. Since most of these scenarios are over-constrained, optimal solutions do not always satisfy all agents. Some agents might be unhappy and ask questions of the form “Why does solution $S$ not satisfy property $P$?”. We propose CMAoE, a domain-independent approach to obtain contrastive explanations by: (i) generating a new solution $S^\prime$ where property $P$ is enforced, while also minimizing the differences between $S$ and $S^\prime$; and (ii) highlighting the differences between the two solutions, with respect to the features of the objective function of the multi-agent system. Such explanations aim to help agents understanding why the initial solution is better in the context of the multi-agent system than what they expected. We have carried out a computational evaluation that shows that CMAoE can generate contrastive explanations for large multi-agent optimization problems. We have also performed an extensive user study in four different domains that shows that: (i) after being presented with these explanations, humans’ satisfaction with the original solution increases; and (ii) the constrastive explanations generated by CMAoE are preferred or equally preferred by humans over the ones generated by state of the art approaches.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google