要約
オンラインヘイトスピーチは、ソーシャルメディアプラットフォームでますます普及しており、個人や社会に害を及ぼしています。
コンテンツモデレートを通じてこの問題に対処するための努力がなされていますが、代替ソリューションとしてのユーザー駆動型のcounterspeechの可能性は、採用されていないままです。
既存のcounterspeechメソッドは、報復の恐怖やスキル関連の障壁などの課題に直面することがよくあります。
これらの課題に対処するために、ユーザーが効果的で共感的なウンパースピーチを構成するのを支援するAIを介したシステムであるCounterQuillを紹介します。
CounterQuillは、3段階のプロセスを提供します。（1）ユーザーがヘイトスピーチとカウンタースピーチを理解できるようにするための学習セッション。
（2）ユーザーがヘイトスピーチの重要な要素を特定し、カウンタースピーチ戦略の調査に導くブレーンストーミングセッション。
（3）ユーザーがカウンターキルでカウンタースピーチをドラフトして改良できるようにする共同執筆セッション。
CHATGPTと比較して、カウンターキルを評価するために、20人の参加者を使用した被験者内ユーザー調査を実施しました。
結果は、Counter Quillのガイダンスと共同執筆プロセスにより、ユーザーが共著したcounterspeechよりも強力な所有感を提供したことを示しています。
ユーザーはカウンターキルをライティングパートナーとして認識していたため、CHATGPTで書かれたものと比較して、共同執筆のcountersepeechをオンラインで投稿する意思がありました。
要約(オリジナル)
Online hate speech has become increasingly prevalent on social media platforms, causing harm to individuals and society. While efforts have been made to combat this issue through content moderation, the potential of user-driven counterspeech as an alternative solution remains underexplored. Existing counterspeech methods often face challenges such as fear of retaliation and skill-related barriers. To address these challenges, we introduce CounterQuill, an AI-mediated system that assists users in composing effective and empathetic counterspeech. CounterQuill provides a three-step process: (1) a learning session to help users understand hate speech and counterspeech; (2) a brainstorming session that guides users in identifying key elements of hate speech and exploring counterspeech strategies; and (3) a co-writing session that enables users to draft and refine their counterspeech with CounterQuill. We conducted a within-subjects user study with 20 participants to evaluate CounterQuill in comparison to ChatGPT. Results show that CounterQuill’s guidance and collaborative writing process provided users a stronger sense of ownership over their co-authored counterspeech. Users perceived CounterQuill as a writing partner and thus were more willing to post the co-written counterspeech online compared to the one written with ChatGPT.
arxiv情報
| 著者 | Xiaohan Ding,Kaike Ping,Uma Sushmitha Gunturi,Buse Carik,Sophia Stil,Lance T Wilhelm,Taufiq Daryanto,James Hawdon,Sang Won Lee,Eugenia H Rho |
| 発行日 | 2025-05-06 14:58:40+00:00 |
| arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google