The Future of Combating Rumors? Retrieval, Discrimination, and Generation

要約

AIGC (Artificial Intelligence Generated Content) テクノロジーの開発は、誤った情報を含む噂の作成を促進し、社会、経済、政治のエコシステムに影響を与え、民主主義に挑戦をもたらしています。
現在の噂探知の取り組みは、潜在的に誤った情報にラベルを付けるだけ（分類タスク）で不十分であり、問​​題への対処が不十分であり、権威ある機関にソーシャルメディア上のすべての情報の誤りを暴くことは非現実的です。
私たちが提案する包括的な嘘を暴くプロセスは、噂を検出するだけでなく、情報の信頼性に反論するために生成された説明的なコンテンツも提供します。
私たちが設計した Expert-Citizen Collective Wisdom (ECCW) モジュールは、情報の信頼性を高精度で評価することを保証し、検索モジュールは、情報のキーワードに基づいて、リアルタイムで更新された誤り暴きデータベースから関連する知識を取得する役割を果たします。
迅速なエンジニアリング技術を使用することで、結果と知識を LLM (Large Language Model) に入力し、満足のいく識別と説明効果を実現しながら、微調整の必要性を排除し、計算コストを節約し、誤りを暴く取り組みに貢献します。

要約(オリジナル)

Artificial Intelligence Generated Content (AIGC) technology development has facilitated the creation of rumors with misinformation, impacting societal, economic, and political ecosystems, challenging democracy. Current rumor detection efforts fall short by merely labeling potentially misinformation (classification task), inadequately addressing the issue, and it is unrealistic to have authoritative institutions debunk every piece of information on social media. Our proposed comprehensive debunking process not only detects rumors but also provides explanatory generated content to refute the authenticity of the information. The Expert-Citizen Collective Wisdom (ECCW) module we designed aensures high-precision assessment of the credibility of information and the retrieval module is responsible for retrieving relevant knowledge from a Real-time updated debunking database based on information keywords. By using prompt engineering techniques, we feed results and knowledge into a LLM (Large Language Model), achieving satisfactory discrimination and explanatory effects while eliminating the need for fine-tuning, saving computational costs, and contributing to debunking efforts.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google