Qualitative Analysis of a Graph Transformer Approach to Addressing Hate Speech: Adapting to Dynamically Changing Content

要約

本研究では、ソーシャルメディアにおけるヘイトスピーチを予測するアプローチを開発し、憎悪に満ちた言説が発生する可能性をうまく検出するためには、投稿に続く議論を考慮することが重要であることを明らかにした。グラフ変換ネットワークを使用し、注目のモデリングとBERTレベルの自然言語処理と組み合わせることで、我々のアプローチは文脈を捉え、今後の反社会的な行動を予測することができます。本論文では、ソーシャルネットワークにおける憎悪表現検出のためのこのソリューションの詳細な定性的分析を行い、この方法が競合他社と比較して最も素晴らしい結果をもたらす場所についての洞察を導き、理想的なパフォーマンスを達成するための課題があるシナリオを明らかにします。また、憎悪に満ちた画像の使用を含む、今日のソーシャルメディアに浸透している投稿の種類を調査しています。これは、私たちのモデルをより包括的に拡張する可能性を示唆しています。重要な洞察は、文脈の概念に関する推論に焦点を当てることで、オンライン投稿のマルチモーダル分析をサポートできるようになることです。最後に、私たちが取り組んでいる問題が、社会的インパクトをもたらすすべてのAIソリューションにとって重要な関心事である「動的変化」というテーマと特によく関連していることを考察しています。また、投稿に含まれる憎悪の度合いに応じてキュレーションされたコンテンツを通じて、精神的な健康状態を向上させることができることについても簡単に触れています。

要約(オリジナル)

Our work advances an approach for predicting hate speech in social media, drawing out the critical need to consider the discussions that follow a post to successfully detect when hateful discourse may arise. Using graph transformer networks, coupled with modelling attention and BERT-level natural language processing, our approach can capture context and anticipate upcoming anti-social behaviour. In this paper, we offer a detailed qualitative analysis of this solution for hate speech detection in social networks, leading to insights into where the method has the most impressive outcomes in comparison with competitors and identifying scenarios where there are challenges to achieving ideal performance. Included is an exploration of the kinds of posts that permeate social media today, including the use of hateful images. This suggests avenues for extending our model to be more comprehensive. A key insight is that the focus on reasoning about the concept of context positions us well to be able to support multi-modal analysis of online posts. We conclude with a reflection on how the problem we are addressing relates especially well to the theme of dynamic change, a critical concern for all AI solutions for social impact. We also comment briefly on how mental health well-being can be advanced with our work, through curated content attuned to the extent of hate in posts.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL