Visual Debates

要約

任意のトピックについてさまざまな視点を得る自然な方法は、参加者がそのトピックに賛成または反対する討論を行うことです。
ここでは、マルチプレイヤーのシーケンシャル ゼロサム ゲームとしてモデル化することにより、分類子が特定の予測を行う理由を理解するための新しい議論の枠組みを提案します。
プレーヤーは、他のプレーヤーの反論に対して自分の主張を調整することで、自分の効用を最大化することを目指します。
フレームワークの対照的な性質により、プレイヤーはさまざまな議論を展開し、対戦相手が見逃した推論の道筋を拾うことができます。
このように、私たちのフレームワークは、プレイヤーが分類子の決定に賛成または反対することを可能にすることで、分類子はなぜ特定の予測を行ったのかという質問に答えます。
提案されたセットアップでは、質問と分類子の潜在的な知識が与えられた場合、両方のエージェントが順番に、分類子の決定を支持または否定する議論を提案します。
ここでの引数は、連続分類器の離散化された潜在空間からの特定の特徴の選択に対応しています。
討論の終わりまでに、分類子の内部推論を示す説明として役立つ一連の支援機能と操作機能を収集します。
主観的な検証のための幾何学的な SHAPE および MNIST データセットに関する視覚的議論を示した後、高解像度の AFHQ データセットを示します。
詳細な調査のために、私たちのフレームワークは \url{https://github.com/koriavinash1/VisualDebates} で入手できます。

要約(オリジナル)

The natural way of obtaining different perspectives on any given topic is by conducting a debate, where participants argue for and against the topic. Here, we propose a novel debate framework for understanding the classifier’s reasoning for making a particular prediction by modelling it as a multiplayer sequential zero-sum game. The players aim to maximise their utilities by adjusting their arguments with respect to other players’ counterarguments. The contrastive nature of our framework encourages players to put forward diverse arguments, picking up the reasoning trails missed by their opponents. Thus, our framework answers the question: why did the classifier make a certain prediction?, by allowing players to argue for and against the classifier’s decision. In the proposed setup, given the question and the classifier’s latent knowledge, both agents take turns in proposing arguments to support or contradict the classifier’s decision; arguments here correspond to the selection of specific features from the discretised latent space of the continuous classifier. By the end of the debate, we collect sets of supportive and manipulative features, serving as an explanation depicting the internal reasoning of the classifier. We demonstrate our Visual Debates on the geometric SHAPE and MNIST datasets for subjective validation, followed by the high-resolution AFHQ dataset. For further investigation, our framework is available at \url{https://github.com/koriavinash1/VisualDebates}.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google