MOSAIC: Modeling Social AI for Content Dissemination and Regulation in Multi-Agent Simulations

要約

生成言語エージェントがコンテンツの好み、共有、フラグのようなユーザーの動作を予測する、新しいオープンソースソーシャルネットワークシミュレーションフレームワークであるモザイクを紹介します。
このシミュレーションは、LLMエージェントを指示されたソーシャルグラフと組み合わせて、緊急の欺ception行動を分析し、ユーザーがオンラインソーシャルコンテンツの真実性をどのように決定するかをよりよく理解することを得ることができます。
多様な細粒のペルソナからユーザー表現を構築することにより、当社のシステムは、大規模なコンテンツの普及とエンゲージメントダイナミクスをモデル化するマルチエージェントシミュレーションを可能にします。
このフレームワーク内で、シミュレートされた誤った情報普及を伴う3つの異なるコンテンツモデレーション戦略を評価し、非操作コンテンツの拡散を軽減するだけでなく、ユーザーエンゲージメントを増加させることがわかります。
さらに、シミュレーションで人気のあるコンテンツの軌跡を分析し、シミュレーションエージェントの社会的相互作用に対する明確な推論が、集合的なエンゲージメントパターンと本当に一致するかどうかを調査します。
AIおよび社会科学のさらなる研究を促進するために、シミュレーションソフトウェアをオープンソーシングします。

要約(オリジナル)

We present a novel, open-source social network simulation framework, MOSAIC, where generative language agents predict user behaviors such as liking, sharing, and flagging content. This simulation combines LLM agents with a directed social graph to analyze emergent deception behaviors and gain a better understanding of how users determine the veracity of online social content. By constructing user representations from diverse fine-grained personas, our system enables multi-agent simulations that model content dissemination and engagement dynamics at scale. Within this framework, we evaluate three different content moderation strategies with simulated misinformation dissemination, and we find that they not only mitigate the spread of non-factual content but also increase user engagement. In addition, we analyze the trajectories of popular content in our simulations, and explore whether simulation agents’ articulated reasoning for their social interactions truly aligns with their collective engagement patterns. We open-source our simulation software to encourage further research within AI and social sciences.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google