Entendre, a Social Bot Detection Tool for Niche, Fringe, and Extreme Social Media

要約

ソーシャル ボット (ソーシャル メディア上でコンテンツを生成および拡散する自動アカウント) は、これらのプラットフォームの脆弱性を悪用して、一般の人々の認識を操作し、偽情報を広めています。
これにより、パブリックボット検出サービスの開発が促進されました。
ただし、これらのサービスのほとんどは主に Twitter に焦点を当てており、ニッチなプラットフォームは脆弱なままになっています。
Parler、Gab、Gettr などのフリンジ ソーシャル メディア プラットフォームでは、最小限のモデレーションしか持たないことが多く、ヘイトスピーチや誤った情報の拡散を促進します。
このギャップに対処するために、オープンアクセスでスケーラブルでプラットフォームに依存しないボット検出フレームワークである Entendre を導入します。
エンテンダーは、任意のソーシャル プラットフォームからのラベル付きデータセットを処理して、ランダム フォレスト分類アプローチを使用してカスタマイズされたボット検出モデルを生成し、堅牢なソーシャル ボット検出を保証できます。
私たちは、ほとんどのソーシャル プラットフォームが汎用テンプレートを共有し、ユーザーがコンテンツを投稿し、コンテンツを承認し、自己紹介 (共通データ機能) を提供できるという考えを利用します。
Entender は、プラットフォーム固有のデータ機能よりも一般的なデータ機能を重視することで、精度をある程度犠牲にして迅速な拡張性を提供します。
Entendre の有効性を実証するために、私たちは Entendre を使用して、現在は廃止されている右翼プラットフォーム Parler に人種差別的なコンテンツを投稿しているアカウントの中にボットが存在するかを調査しました。
38,379 人のユニーク ユーザーからの 233,000 件の投稿を調査したところ、1,916 人のユニーク ユーザー (4.99%) がボットのような動作を示していることがわかりました。
さらに、視覚化技術により、これらのボットがネットワークに大きな影響を与え、影響力のあるレトリックやハッシュタグ (#qanon、#trump、#antilgbt など) を増幅させていることが明らかになりました。
これらの予備的な調査結果は、多様なプラットフォームにわたるボットのアクティビティを監視および評価するための Entender のようなツールの必要性を強調しています。

要約(オリジナル)

Social bots-automated accounts that generate and spread content on social media-are exploiting vulnerabilities in these platforms to manipulate public perception and disseminate disinformation. This has prompted the development of public bot detection services; however, most of these services focus primarily on Twitter, leaving niche platforms vulnerable. Fringe social media platforms such as Parler, Gab, and Gettr often have minimal moderation, which facilitates the spread of hate speech and misinformation. To address this gap, we introduce Entendre, an open-access, scalable, and platform-agnostic bot detection framework. Entendre can process a labeled dataset from any social platform to produce a tailored bot detection model using a random forest classification approach, ensuring robust social bot detection. We exploit the idea that most social platforms share a generic template, where users can post content, approve content, and provide a bio (common data features). By emphasizing general data features over platform-specific ones, Entendre offers rapid extensibility at the expense of some accuracy. To demonstrate Entendre’s effectiveness, we used it to explore the presence of bots among accounts posting racist content on the now-defunct right-wing platform Parler. We examined 233,000 posts from 38,379 unique users and found that 1,916 unique users (4.99%) exhibited bot-like behavior. Visualization techniques further revealed that these bots significantly impacted the network, amplifying influential rhetoric and hashtags (e.g., #qanon, #trump, #antilgbt). These preliminary findings underscore the need for tools like Entendre to monitor and assess bot activity across diverse platforms.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google