Think Fast, Think Slow, Think Critical: Designing an Automated Propaganda Detection Tool

要約

急速なニュース消費とプロパガンダに対する脆弱性の増大を特徴とする今日のデジタル時代において、安定した民主主義にとって国民の批判的思考を養うことは極めて重要です。
この論文では、カーネマンの認知の二重システム理論に従い、分析的思考モードを活性化することで、読者をより批判的なニュース消費へと誘導するように設計された、新しい自動プロパガンダ検出ツールである ClarifAI の設計を紹介します。
ClarifAI は、大規模言語モデルを使用してニュース記事内のプロパガンダを検出し、文脈に富んだ説明を提供して、ユーザーの理解と批判的思考を強化します。
私たちの貢献は 3 つあります。まず、ClarifAI の設計を提案します。
次に、オンライン実験で、このデザインがニュース読者をより批判的に読むよう効果的に促すことを実証しました。
第三に、批判的思考を養うための説明の価値を強調します。
したがって、この研究は、デジタル ニュースにおけるプロパガンダを軽減するための実用的なツールと有用な設計知識の両方を提供します。

要約(オリジナル)

In today’s digital age, characterized by rapid news consumption and increasing vulnerability to propaganda, fostering citizens’ critical thinking is crucial for stable democracies. This paper introduces the design of ClarifAI, a novel automated propaganda detection tool designed to nudge readers towards more critical news consumption by activating the analytical mode of thinking, following Kahneman’s dual-system theory of cognition. Using Large Language Models, ClarifAI detects propaganda in news articles and provides context-rich explanations, enhancing users’ understanding and critical thinking. Our contribution is threefold: first, we propose the design of ClarifAI; second, in an online experiment, we demonstrate that this design effectively encourages news readers to engage in more critical reading; and third, we emphasize the value of explanations for fostering critical thinking. The study thus offers both a practical tool and useful design knowledge for mitigating propaganda in digital news.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google