Explainable Fake News Detection With Large Language Model via Defense Among Competing Wisdom

要約

ほとんどのフェイクニュース検出手法は、ニューラルネットワークに基づく潜在的な特徴表現を学習するため、正当性を示すことなくニュースの一部を分類するブラックボックスとなる。既存の説明可能なシステムは調査ジャーナリズムから真実性の正当性を生成するが、これは論破の遅れと効率の低さに悩まされている。最近の研究では、正当性の説明が、群衆の知恵で表現された多数意見と同等であると単純に仮定している。しかし、群衆の知恵は検閲されていないため、意見には不正確な情報や偏った情報が含まれていることが一般的である。本稿では、多様で混雑した、さらには競合するナラティブの海からフェイクニュースを検出するために、新しい防御ベースの説明可能なフェイクニュース検出フレームワークを提案する。具体的には、まず証拠抽出モジュールを提案し、群衆の知恵を2つの競合する当事者に分割し、それぞれ顕著な証拠を検出する。次に、証拠から簡潔な洞察を得るために、2つの可能性のある真偽に対する理由を推論することによって正当性を生成する、大規模言語モデルを利用するプロンプトベースのモジュールを設計する。最後に、これらの正当性の間の弁明をモデル化することにより、真偽を決定する弁明に基づく推論モジュールを提案する。2つの実世界ベンチマークで行った広範な実験により、我々の提案手法がフェイクニュースの検出において最先端のベースラインを上回り、高品質な正当性を提供することを実証する。

要約(オリジナル)

Most fake news detection methods learn latent feature representations based on neural networks, which makes them black boxes to classify a piece of news without giving any justification. Existing explainable systems generate veracity justifications from investigative journalism, which suffer from debunking delayed and low efficiency. Recent studies simply assume that the justification is equivalent to the majority opinions expressed in the wisdom of crowds. However, the opinions typically contain some inaccurate or biased information since the wisdom of crowds is uncensored. To detect fake news from a sea of diverse, crowded and even competing narratives, in this paper, we propose a novel defense-based explainable fake news detection framework. Specifically, we first propose an evidence extraction module to split the wisdom of crowds into two competing parties and respectively detect salient evidences. To gain concise insights from evidences, we then design a prompt-based module that utilizes a large language model to generate justifications by inferring reasons towards two possible veracities. Finally, we propose a defense-based inference module to determine veracity via modeling the defense among these justifications. Extensive experiments conducted on two real-world benchmarks demonstrate that our proposed method outperforms state-of-the-art baselines in terms of fake news detection and provides high-quality justifications.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL