Personality Modeling for Persuasion of Misinformation using AI Agent

要約

ソーシャルメディアプラットフォーム上での誤った情報の蔓延は、個人の性格特性が誤った情報に対する感受性やその伝播にどのような影響を与えるかを理解する必要性を浮き彫りにしています。
この研究では、革新的なエージェントベースのモデリングアプローチを採用して、性格特性と誤った情報のダイナミクスの関係を調査しています。
ビッグ 5 の性格特性 (外向性、協調性、神経症傾向) のさまざまな側面を体現する 6 人の AI エージェントを使用して、6 つの多様な誤情報トピックにわたる相互作用をシミュレートしました。
GLM-4-Flash モデルを使用して AgentScope フレームワークを通じて実装されたこの実験では、90 の固有のインタラクションが生成され、性格の組み合わせが偽情報に対する説得と抵抗にどのように影響するかについての複雑なパターンが明らかになりました。
私たちの調査結果は、分析的で批判的な性格特性が証拠に基づいた議論の有効性を高める一方、非攻撃的な説得戦略が誤った情報の修正において予想外の成功を示していることを示しています。
特に、重要な特性を持つエージェントは、HIV 関連の誤情報に関する議論で 59.4% の成功率を達成しましたが、非攻撃的なアプローチを採用したエージェントは、さまざまな性格の組み合わせにわたって一貫して 40% 以上の説得率を維持しました。
この研究では、説得の有効性における非推移的なパターンも明らかになり、性格に基づく影響についての従来の仮定に疑問を投げかけました。
これらの結果は、デジタル環境でパーソナリティを意識した介入を開発するための重要な洞察を提供し、効果的な誤報対策は対立的なアプローチよりも感情的なつながりと信頼構築を優先する必要があることを示唆しています。
この発見は、人格と誤った情報の力関係の理論的理解と、ソーシャルメディアの文脈における誤った情報と戦うための実践的な戦略の両方に貢献します。

要約(オリジナル)

The proliferation of misinformation on social media platforms has highlighted the need to understand how individual personality traits influence susceptibility to and propagation of misinformation. This study employs an innovative agent-based modeling approach to investigate the relationship between personality traits and misinformation dynamics. Using six AI agents embodying different dimensions of the Big Five personality traits (Extraversion, Agreeableness, and Neuroticism), we simulated interactions across six diverse misinformation topics. The experiment, implemented through the AgentScope framework using the GLM-4-Flash model, generated 90 unique interactions, revealing complex patterns in how personality combinations affect persuasion and resistance to misinformation. Our findings demonstrate that analytical and critical personality traits enhance effectiveness in evidence-based discussions, while non-aggressive persuasion strategies show unexpected success in misinformation correction. Notably, agents with critical traits achieved a 59.4% success rate in HIV-related misinformation discussions, while those employing non-aggressive approaches maintained consistent persuasion rates above 40% across different personality combinations. The study also revealed a non-transitive pattern in persuasion effectiveness, challenging conventional assumptions about personality-based influence. These results provide crucial insights for developing personality-aware interventions in digital environments and suggest that effective misinformation countermeasures should prioritize emotional connection and trust-building over confrontational approaches. The findings contribute to both theoretical understanding of personality-misinformation dynamics and practical strategies for combating misinformation in social media contexts.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google