Context-Aware Toxicity Detection in Multiplayer Games: Integrating Domain-Adaptive Pretraining and Match Metadata

要約

競争力のあるオンラインビデオゲームにおける毒性の有害な影響は広く認められており、出版社にプレイヤーチャットの会話を監視するよう促しています。
これは、毒性のコンテキスト依存性の性質のために挑戦的であり、しばしば複数のメッセージに広がったり、非テキストの相互作用によって情報を提供したりします。
従来の毒性検出器は、孤立したメッセージに焦点を当て、正確な節度に必要なより広いコンテキストを欠いています。
これは、特にその希少性を考えると、標準モデルが毒性を検出することを困難にしているため、特に標準モデルが毒性を検出することを困難にしているため、これはビデオゲームで特に問題があります。
Roberta LLMを調整して、ビデオゲームに合わせたモデレーションをサポートし、テキストと非テキストのコンテキストの両方を統合しました。
メタデータを使用した前提条件の埋め込みを強化し、ドメイン適応前脱出を介したユニークなスラングと言語の癖に対処することにより、私たちの方法は、プレーヤーの相互作用のニュアンスをよりよく捉えています。
2つのゲームデータセットを使用して、Andefients 2（Dota 2）とCall of Duty $^\ cirfare $：Modern Warfare $^\ circledr $ iii（MWIII）のコールオブデューティ$^\ cirfare $：Context of Context（メタデータ、以前の相互作用…）が最も便利であり、パフォーマンスを高めるために最適な方法で最も有用であり、条件を促進します。
この作業は、積極的な節度のためのコンテキスト認識とドメイン固有のアプローチの重要性を強調しています。

要約(オリジナル)

The detrimental effects of toxicity in competitive online video games are widely acknowledged, prompting publishers to monitor player chat conversations. This is challenging due to the context-dependent nature of toxicity, often spread across multiple messages or informed by non-textual interactions. Traditional toxicity detectors focus on isolated messages, missing the broader context needed for accurate moderation. This is especially problematic in video games, where interactions involve specialized slang, abbreviations, and typos, making it difficult for standard models to detect toxicity, especially given its rarity. We adapted RoBERTa LLM to support moderation tailored to video games, integrating both textual and non-textual context. By enhancing pretrained embeddings with metadata and addressing the unique slang and language quirks through domain adaptive pretraining, our method better captures the nuances of player interactions. Using two gaming datasets – from Defense of the Ancients 2 (DOTA 2) and Call of Duty$^\circledR$: Modern Warfare$^\circledR$III (MWIII) we demonstrate which sources of context (metadata, prior interactions…) are most useful, how to best leverage them to boost performance, and the conditions conducive to doing so. This work underscores the importance of context-aware and domain-specific approaches for proactive moderation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google