Explainable Fake News Detection With Large Language Model via Defense Among Competing Wisdom

要約

ほとんどの偽のニュース検出方法は、ニューラルネットワークに基づいた潜在的な特徴表現を学習します。これにより、正当化をせずにニュースを分類するためのブラックボックスになります。
既存の説明可能なシステムは、調査ジャーナリズムから真実性の正当性を生み出します。これは、遅れて効率が低下することに苦しんでいます。
最近の研究では、正当化は群衆の知恵で表明された多数派の意見に相当していると単純に仮定しています。
ただし、群衆の知恵は無修正であるため、意見には通常、不正確または偏った情報が含まれています。
このペーパーでは、多様で混雑した、さらには競合する物語の海から偽のニュースを検出するために、私たちは斬新な防衛に基づいた説明可能な偽のニュース検出フレームワークを提案します。
具体的には、最初に証拠抽出モジュールを提案して、群衆の知恵を2つの競合するパーティーに分割し、それぞれ顕著な証拠を検出します。
証拠から簡潔な洞察を得るために、2つの可能性のある意味に向けて理由を推測することにより正当化を生成するために大きな言語モデルを利用するプロンプトベースのモジュールを設計します。
最後に、これらの正当化の間で防御をモデル化することで真実性を決定するために、防御ベースの推論モジュールを提案します。
2つの現実世界のベンチマークで実施された広範な実験は、提案された方法が偽のニュース検出に関して最先端のベースラインよりも優れており、高品質の正当化を提供することを示しています。

要約(オリジナル)

Most fake news detection methods learn latent feature representations based on neural networks, which makes them black boxes to classify a piece of news without giving any justification. Existing explainable systems generate veracity justifications from investigative journalism, which suffer from debunking delayed and low efficiency. Recent studies simply assume that the justification is equivalent to the majority opinions expressed in the wisdom of crowds. However, the opinions typically contain some inaccurate or biased information since the wisdom of crowds is uncensored. To detect fake news from a sea of diverse, crowded and even competing narratives, in this paper, we propose a novel defense-based explainable fake news detection framework. Specifically, we first propose an evidence extraction module to split the wisdom of crowds into two competing parties and respectively detect salient evidences. To gain concise insights from evidences, we then design a prompt-based module that utilizes a large language model to generate justifications by inferring reasons towards two possible veracities. Finally, we propose a defense-based inference module to determine veracity via modeling the defense among these justifications. Extensive experiments conducted on two real-world benchmarks demonstrate that our proposed method outperforms state-of-the-art baselines in terms of fake news detection and provides high-quality justifications.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google