If there’s a Trigger Warning, then where’s the Trigger? Investigating Trigger Warnings at the Passage Level

要約

トリガー警告は、機密コンテンツが特定の読者グループに有害​​であると認識される可能性がある場合に、文書の先頭に機密コンテンツを付けるラベルです。
文書に関する警告は、文書を読む前に直観的に表示する必要があるため、作成者は通常、文書レベルでトリガー警告を割り当てます。
しかし、彼らの文章のどの部分が彼らに警告を与えるよう促したのかは不明のままである。
私たちは、手動とコンピューターの両方で、文書内のトリガーとなる箇所を特定する実現可能性を初めて調査しました。
4,135 個の英語の文章のデータセットを作成し、それぞれに 8 つの一般的なトリガー警告のいずれかが注釈付けされています。
大規模な評価では、微調整された少数ショット分類器の有効性とその一般化可能性を体系的に評価します。
トリガーのアノテーションは NLP における主観的なアノテーション タスクのグループに属し、トリガーの自動分類は依然として困難ではあるが実現可能であることがわかりました。

要約(オリジナル)

Trigger warnings are labels that preface documents with sensitive content if this content could be perceived as harmful by certain groups of readers. Since warnings about a document intuitively need to be shown before reading it, authors usually assign trigger warnings at the document level. What parts of their writing prompted them to assign a warning, however, remains unclear. We investigate for the first time the feasibility of identifying the triggering passages of a document, both manually and computationally. We create a dataset of 4,135 English passages, each annotated with one of eight common trigger warnings. In a large-scale evaluation, we then systematically evaluate the effectiveness of fine-tuned and few-shot classifiers, and their generalizability. We find that trigger annotation belongs to the group of subjective annotation tasks in NLP, and that automatic trigger classification remains challenging but feasible.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google