SC-ML: Self-supervised Counterfactual Metric Learning for Debiased Visual Question Answering

要約

【タイトル】自己教師ありの対事実メトリック学習によるバイアスのない視覚的質問応答

【要約】

– 視覚的質問応答（VQA）は、エージェントが視覚的手がかりに従って質問に答える複合的なタスクであり、言語のバイアスが発生することがよくある問題である。
– 言語のバイアスとは、モデルが質問に関連して答えを生成するだけで視覚的な内容を無視してしまい、バイアスのある結果を生じさせることを指す。
– 我々は、自己教師ありの対事実メトリック学習（SC-ML）方法を提案することで、言語のバイアス問題を解決する。SC-MLは、質問に関連のある視覚的特徴量を選択して質問に答えることができ、質問に非関連な視覚的特徴量が回答を推測する際の負の影響を軽減する。
– さらに、質問に非関連な視覚的特徴量をカウンターファクトリアルトレーニングスキームに無理なく組み込むことができ、ロバスト性をより向上させることができる。
– 大規模な実験により、VQA-CPデータセットでも改善された結果を示し、我々の方法の有効性が証明された。我々のコードは公開される予定である。

要約(オリジナル)

Visual question answering (VQA) is a critical multimodal task in which an agent must answer questions according to the visual cue. Unfortunately, language bias is a common problem in VQA, which refers to the model generating answers only by associating with the questions while ignoring the visual content, resulting in biased results. We tackle the language bias problem by proposing a self-supervised counterfactual metric learning (SC-ML) method to focus the image features better. SC-ML can adaptively select the question-relevant visual features to answer the question, reducing the negative influence of question-irrelevant visual features on inferring answers. In addition, question-irrelevant visual features can be seamlessly incorporated into counterfactual training schemes to further boost robustness. Extensive experiments have proved the effectiveness of our method with improved results on the VQA-CP dataset. Our code will be made publicly available.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI