IOHunter: Graph Foundation Model to Uncover Online Information Operations

要約

ソーシャルメディア・プラットフォームは、現代の言論機関として、さまざまな声が社会の語り口に影響を与える、重要な言論空間となっている。しかし、そのオープンな性質は、世論を操作するための情報操作（IO）を行うことができる、国家に支援された団体を含む悪意のある行為者に悪用されやすいものでもある。誤った情報、虚偽のニュース、誤解を招く主張の拡散は、民主主義のプロセスと社会の結束を脅かすため、オンライン上の言説の完全性を守るために、不正な活動をタイムリーに検出する手法を開発することが極めて重要である。本研究では、様々な影響力キャンペーンにおいて情報操作を指揮するユーザー、別名IOドライバーを特定するための手法を紹介する。IOHunterと名付けられた我々のフレームワークは、言語モデルとグラフニューラルネットワークの組み合わせの強みを活用し、教師あり、教師なし、IO横断的なコンテキストにおける汎化を改善する。我々のアプローチは、6カ国の複数のIOセットにおいて、既存のアプローチを大幅に上回る最先端のパフォーマンスを達成した。この研究は、ソーシャルメディアプラットフォーム上のIO検出タスクに特化したグラフファウンデーションモデルの開発への一歩となる。

要約(オリジナル)

Social media platforms have become vital spaces for public discourse, serving as modern agor\`as where a wide range of voices influence societal narratives. However, their open nature also makes them vulnerable to exploitation by malicious actors, including state-sponsored entities, who can conduct information operations (IOs) to manipulate public opinion. The spread of misinformation, false news, and misleading claims threatens democratic processes and societal cohesion, making it crucial to develop methods for the timely detection of inauthentic activity to protect the integrity of online discourse. In this work, we introduce a methodology designed to identify users orchestrating information operations, a.k.a. IO drivers, across various influence campaigns. Our framework, named IOHunter, leverages the combined strengths of Language Models and Graph Neural Networks to improve generalization in supervised, scarcely-supervised, and cross-IO contexts. Our approach achieves state-of-the-art performance across multiple sets of IOs originating from six countries, significantly surpassing existing approaches. This research marks a step toward developing Graph Foundation Models specifically tailored for the task of IO detection on social media platforms.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL