Consistent Multi-Granular Rationale Extraction for Explainable Multi-hop Fact Verification

要約

マルチホップ事実検証における深層学習モデルの成功により、研究者はその真実性の背後にある動作を理解するようになりました。
考えられる方法の 1 つは消去検索です。つまり、予測の正確性を損なうことなく入力のサブセットを完全に削除することで理論的根拠を取得します。
広範囲に調査されていますが、既存のアプローチは単一粒度 (トークンまたは文) の説明の範囲内にあり、必然的に説明の冗長性と不一致が生じます。
このような問題に対処するために、この論文では、説明可能なマルチホップ事実検証のための、一貫性と忠実性を備えたマルチ粒度の根拠抽出の実行可能性を検討します。
特に、事前トレーニングされた真実性予測モデルが与えられると、微分可能なマスキングを介して複数の粒度の根拠を取得するために、トークンレベルの説明子と文レベルの説明子の両方が同時にトレーニングされます。
一方、3 つの診断プロパティ (忠実度、一貫性、顕著性) が導入され、トレーニング プロセスに適用され、抽出された理論的根拠が忠実さと一貫性を確実に満たすようになります。
3 つのマルチホップ事実検証データセットに関する実験結果は、提案されたアプローチがいくつかの最先端のベースラインを上回るパフォーマンスを示していることを示しています。

要約(オリジナル)

The success of deep learning models on multi-hop fact verification has prompted researchers to understand the behavior behind their veracity. One possible way is erasure search: obtaining the rationale by entirely removing a subset of input without compromising the veracity prediction. Although extensively explored, existing approaches fall within the scope of the single-granular (tokens or sentences) explanation, which inevitably leads to explanation redundancy and inconsistency. To address such issues, this paper explores the viability of multi-granular rationale extraction with consistency and faithfulness for explainable multi-hop fact verification. In particular, given a pretrained veracity prediction model, both the token-level explainer and sentence-level explainer are trained simultaneously to obtain multi-granular rationales via differentiable masking. Meanwhile, three diagnostic properties (fidelity, consistency, salience) are introduced and applied to the training process, to ensure that the extracted rationales satisfy faithfulness and consistency. Experimental results on three multi-hop fact verification datasets show that the proposed approach outperforms some state-of-the-art baselines.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google