Community Moderation and the New Epistemology of Fact Checking on Social Media

要約

ソーシャルメディアプラットフォームは、伝統的に、内部の節度チームと独立した事実確認組織とのパートナーシップに依存しており、誤解を招くコンテンツを特定してフラグを立てていました。
ただし、最近、X（以前のTwitter）やMetaを含むプラットフォームは、クラウドソースのファクトチェックの独自のバージョンであるコミュニティノートを起動することにより、コミュニティ主導のコンテンツモデレートにシフトしました。
効果的に拡大して統治された場合、このような群衆をチェックするイニシアチブは、スパムで行ったように、コミュニティ主導の努力と同じくらいスケールとスピードを上げて誤った情報と戦う可能性があります。
それにもかかわらず、特に誤った情報のための一般的なコンテンツのモデレートは、本質的により複雑です。
真実の世論は、個人的な偏見、政治的傾向、文化的文脈によってしばしば形作られ、誤解を招く内容を構成するものに対するコンセンサスを複雑にします。
これは、コミュニティの努力は価値があるものの、専門的な事実確認者の不可欠な役割を置き換えることができないことを示唆しています。
ここでは、主要なプラットフォーム全体の誤った情報検出に対する現在のアプローチを体系的に検討し、コミュニティ主導の節度の新たな役割を調査し、大規模な群衆チェックの約束と課題の両方を批判的に評価します。

要約(オリジナル)

Social media platforms have traditionally relied on internal moderation teams and partnerships with independent fact-checking organizations to identify and flag misleading content. Recently, however, platforms including X (formerly Twitter) and Meta have shifted towards community-driven content moderation by launching their own versions of crowd-sourced fact-checking — Community Notes. If effectively scaled and governed, such crowd-checking initiatives have the potential to combat misinformation with increased scale and speed as successfully as community-driven efforts once did with spam. Nevertheless, general content moderation, especially for misinformation, is inherently more complex. Public perceptions of truth are often shaped by personal biases, political leanings, and cultural contexts, complicating consensus on what constitutes misleading content. This suggests that community efforts, while valuable, cannot replace the indispensable role of professional fact-checkers. Here we systemically examine the current approaches to misinformation detection across major platforms, explore the emerging role of community-driven moderation, and critically evaluate both the promises and challenges of crowd-checking at scale.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google