AI Chat Assistants can Improve Conversations about Divisive Topics

要約

オンラインで行われる人間の会話の量は急速に増加しています。
しかし、ソーシャル メディア プラットフォーム、メッセージ アプリ、その他のデジタル フォーラムでのテキストベースのやり取りでは、分裂と対立が悪化する可能性があります。
このような毒性は二極化を促進し、重要なことに、すべての人に影響を与える複雑な社会問題に対する効率的な解決策を開発する多様な社会の能力を腐食させます.
学者や市民社会グループは、オフライン環境で対人会話の分裂を減らしたり、生産性を高めたりする介入を推進していますが、これらの取り組みをオンラインで行われる会話の量にまで拡大することは非常に困難です。
私たちは、人工知能ツールを使用して分裂的なトピックに関するオンライン会話を改善する方法を示す大規模な実験の結果を提示します。
具体的には、大規模な言語モデルを使用して、会話で理解されているという参加者の認識を改善することを目的とした、エビデンスに基づくリアルタイムの推奨事項を作成します。
これらの介入は、会話の内容を体系的に変更したり、人々の政策態度を動かしたりすることなく、報告された会話の質を改善し、政治的分裂を減らし、口調を改善することがわかりました。
これらの調査結果は、ソーシャル メディア、政治的審議、および計算社会科学における人工知能の位置に関心を持つ学者のコミュニティの成長に関する将来の研究に重要な意味を持ちます。

要約(オリジナル)

A rapidly increasing amount of human conversation occurs online. But divisiveness and conflict can fester in text-based interactions on social media platforms, in messaging apps, and on other digital forums. Such toxicity increases polarization and, importantly, corrodes the capacity of diverse societies to develop efficient solutions to complex social problems that impact everyone. Scholars and civil society groups promote interventions that can make interpersonal conversations less divisive or more productive in offline settings, but scaling these efforts to the amount of discourse that occurs online is extremely challenging. We present results of a large-scale experiment that demonstrates how online conversations about divisive topics can be improved with artificial intelligence tools. Specifically, we employ a large language model to make real-time, evidence-based recommendations intended to improve participants’ perception of feeling understood in conversations. We find that these interventions improve the reported quality of the conversation, reduce political divisiveness, and improve the tone, without systematically changing the content of the conversation or moving people’s policy attitudes. These findings have important implications for future research on social media, political deliberation, and the growing community of scholars interested in the place of artificial intelligence within computational social science.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google