From Skepticism to Acceptance: Simulating the Attitude Dynamics Toward Fake News

要約

デジタル時代において、ソーシャルネットワークを介したフェイクニュースや噂の急速な伝播は、顕著な社会的課題をもたらし、世論規制に影響を与えます。
従来のフェイク ニュース モデリングは通常、さまざまなグループの一般的な人気傾向を予測したり、意見の変化を数値的に表したりするものです。
ただし、これらの方法では、現実世界の複雑さが過度に単純化され、ニュース テキストの豊富な意味情報が見落とされることがよくあります。
大規模言語モデル (LLM) の出現により、意見の微妙な力関係をモデル化できる可能性がもたらされました。
したがって、この研究では、フェイク ニュース伝播の傾向と制御を詳細に研究する、LLM に基づくフェイク ニュース伝播シミュレーション フレームワーク (FPS) を導入します。
具体的には、シミュレーション内の各エージェントは、異なる個性を持つ個人を表します。
彼らは短期記憶と長期記憶の両方を備えているだけでなく、人間のような思考を模倣するための反射メカニズムも備えています。
毎日、ランダムな意見交換を行い、自分の考えを振り返り、意見を更新します。
私たちのシミュレーション結果は、現実世界の観察と一致して、トピックの関連性と個人の特性に関連するフェイクニュースの伝播パターンを明らかにします。
さらに、さまざまな介入戦略を評価し、早期かつ適切に頻繁な介入がガバナンスのコストと有効性のバランスをとることを実証し、実際の応用に貴重な洞察を提供します。
私たちの研究は、フェイクニュースとの戦いにおけるLLMの重要な有用性と可能性を強調しています。

要約(オリジナル)

In the digital era, the rapid propagation of fake news and rumors via social networks brings notable societal challenges and impacts public opinion regulation. Traditional fake news modeling typically forecasts the general popularity trends of different groups or numerically represents opinions shift. However, these methods often oversimplify real-world complexities and overlook the rich semantic information of news text. The advent of large language models (LLMs) provides the possibility of modeling subtle dynamics of opinion. Consequently, in this work, we introduce a Fake news Propagation Simulation framework (FPS) based on LLM, which studies the trends and control of fake news propagation in detail. Specifically, each agent in the simulation represents an individual with a distinct personality. They are equipped with both short-term and long-term memory, as well as a reflective mechanism to mimic human-like thinking. Every day, they engage in random opinion exchanges, reflect on their thinking, and update their opinions. Our simulation results uncover patterns in fake news propagation related to topic relevance, and individual traits, aligning with real-world observations. Additionally, we evaluate various intervention strategies and demonstrate that early and appropriately frequent interventions strike a balance between governance cost and effectiveness, offering valuable insights for practical applications. Our study underscores the significant utility and potential of LLMs in combating fake news.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google