Bipol: Multi-axes Evaluation of Bias with Explainability in Benchmark Datasets

要約

5つの英語NLPベンチマークデータセット（superGLUEリーダーボード）と2つのスウェーデン語データセットについて、複数の軸に沿って偏りを調査した。データセットは以下の通り：Boolean Question (Boolq)、CommitmentBank (CB)、Winograd Schema Challenge (WSC)、Wino-gender diagnostic (AXg)、Recognising Textual Entailment (RTE)、Swedish CB、SWEDN。バイアスは有害であり、MLモデルが学習するデータにはよく見られることが知られている。データのバイアスを軽減するためには、バイアスを客観的に推定できることが重要である。我々は、説明可能な新しい多軸バイアス指標であるbipolを用いて、これらのデータセットにどの程度のバイアスが存在するかを推定し、説明する。多言語、多軸のバイアス評価はあまり一般的ではない。そのため、英語版から翻訳した新しい大規模なスウェーデン語のバイアスラベル付きデータセット（200万サンプル）を提供し、その上でSotA mT5モデルを訓練する。さらに、スウェーデン語のバイアス検出のための新しい多軸レキシカを提供する。我々はコード、モデル、新しいデータセットを公開する。

要約(オリジナル)

We investigate five English NLP benchmark datasets (on the superGLUE leaderboard) and two Swedish datasets for bias, along multiple axes. The datasets are the following: Boolean Question (Boolq), CommitmentBank (CB), Winograd Schema Challenge (WSC), Wino-gender diagnostic (AXg), Recognising Textual Entailment (RTE), Swedish CB, and SWEDN. Bias can be harmful and it is known to be common in data, which ML models learn from. In order to mitigate bias in data, it is crucial to be able to estimate it objectively. We use bipol, a novel multi-axes bias metric with explainability, to estimate and explain how much bias exists in these datasets. Multilingual, multi-axes bias evaluation is not very common. Hence, we also contribute a new, large Swedish bias-labelled dataset (of 2 million samples), translated from the English version and train the SotA mT5 model on it. In addition, we contribute new multi-axes lexica for bias detection in Swedish. We make the codes, model, and new dataset publicly available.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL