Spillover of Antisocial Behavior from Fringe Platforms: The Unintended Consequences of Community Banning

要約

タイトル：周辺プラットフォームからの非社交的行動のスピルオーバー：コミュニティ除名の予期しない影響

要約：
– オンラインプラットフォームは、コミュニティを礼儀正しく尊重するように圧力を受けています。
– したがって、RedditやFacebookなどのメインストリームプラットフォームから問題のあるオンラインコミュニティを除名する方針は、しばしば熱狂的な一般的な反応を引き起こします。
– しかし、この方針は、モデレーション基準の低い代替マージンプラットフォームに移行するユーザーを引き起こしうるため、反社会的な行動、例えばトローリングやハラスメントが広く受け入れられるようなものになることがあります。
– これらのコミュニティのユーザーは、メインストリームと周辺プラットフォームを行き来するため、反社会的な行動はメインストリームプラットフォームにもスピルオーバーする可能性があります。
– r/The_Donald、r/GenderCritical、r/Incelsの3つの禁止コミュニティから周辺プラットフォームに移行した約70,000人のユーザーを分析して、この可能性のあるスピルオーバーを調査しました。
– 差分分析デザインを使用して、共同活動ユーザーと対応する対照群を比較して、フリンジプラットフォーム参加のユーザーのReddit上の反社会的行動の因果効果を推定しました。
– 結果は、フリンジコミュニティへの参加がReddit上のユーザーの有害性（Perspective APIで測定）と禁止コミュニティに似たサブレディットとの関与を増加させることを示しており、これらはしばしばプラットフォーム基準に違反することがあります。
– 影響は時間と周辺プラットフォームへの露出とともに強まっていきます。
– 結論として、共同参加を通じて、周辺プラットフォームからの反社会的行動のスピルオーバーがRedditに見られることが確認されました。

要約(オリジナル)

Online platforms face pressure to keep their communities civil and respectful. Thus, the bannings of problematic online communities from mainstream platforms like Reddit and Facebook are often met with enthusiastic public reactions. However, this policy can lead users to migrate to alternative fringe platforms with lower moderation standards and where antisocial behaviors like trolling and harassment are widely accepted. As users of these communities often remain co-active across mainstream and fringe platforms, antisocial behaviors may spill over onto the mainstream platform. We study this possible spillover by analyzing around 70,000 users from three banned communities that migrated to fringe platforms: r/The_Donald, r/GenderCritical, and r/Incels. Using a difference-in-differences design, we contrast co-active users with matched counterparts to estimate the causal effect of fringe platform participation on users’ antisocial behavior on Reddit. Our results show that participating in the fringe communities increases users’ toxicity on Reddit (as measured by Perspective API) and involvement with subreddits similar to the banned community — which often also breach platform norms. The effect intensifies with time and exposure to the fringe platform. In short, we find evidence for a spillover of antisocial behavior from fringe platforms onto Reddit via co-participation.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI