Support or Refute: Analyzing the Stance of Evidence to Detect Out-of-Context Mis- and Disinformation

要約

オンライン上の誤報や偽情報は、さまざまな種類のオンライン上の危害の主要な原因として、大きな社会問題となっている。誤報・偽情報の一般的な形態の1つは、文脈から外れた（OOC）情報であり、異なる情報の断片が誤って関連付けられる。過去のいくつかの研究では、外部証拠によってOOC誤報や偽情報を防御することが試みられているが、それらは異なるスタンスを持つ異なる証拠の役割を無視する傾向がある。証拠のスタンスは異なる検出結果へのバイアスを表すという直観に動機づけられ、我々は統一されたフレームワークでマルチモーダルな証拠の異なる部分のスタンスを抽出することができるスタンス抽出ネットワーク（SEN）を提案する。さらに、名前付きエンティティの共起関係に基づいて計算される支持-反論スコアをテキストSENに導入する。公開大規模データセットを用いた広範な実験により、我々の提案手法が最先端のベースラインを凌駕することが実証され、最良のモデルでは3.2%の精度向上を達成した。

要約(オリジナル)

Mis- and disinformation online have become a major societal problem as major sources of online harms of different kinds. One common form of mis- and disinformation is out-of-context (OOC) information, where different pieces of information are falsely associated, e.g., a real image combined with a false textual caption or a misleading textual description. Although some past studies have attempted to defend against OOC mis- and disinformation through external evidence, they tend to disregard the role of different pieces of evidence with different stances. Motivated by the intuition that the stance of evidence represents a bias towards different detection results, we propose a stance extraction network (SEN) that can extract the stances of different pieces of multi-modal evidence in a unified framework. Moreover, we introduce a support-refutation score calculated based on the co-occurrence relations of named entities into the textual SEN. Extensive experiments on a public large-scale dataset demonstrated that our proposed method outperformed the state-of-the-art baselines, with the best model achieving a performance gain of 3.2% in accuracy.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL