Mutatis Mutandis: Revisiting the Comparator in Discrimination Testing

要約

差別のテストは、苦情申立人として知られる差別主張を行うプロファイルと同様のコンパレータとして知られるプロファイルを導出し、これら 2 つのプロファイルの結果を比較することで構成されます。
差別を確立するための重要な側面は証拠であり、多くの場合、苦情申し立て者と比較者のペアを実装する差別テストツールを通じて取得されます。
この研究では、識別テストにおけるコンパレータの役割を再検討します。
我々は、コンパレーター導出の因果モデリングの性質を主張し、コンパレーターの 2 種類の分類、すなわち ceteris paribus (CP) および mutatis mutandis (MM) コンパレーターを導入します。
CP コンパレーターは、差別テストの中で標準的なもので、保護された属性へのメンバーシップだけが異なる苦情申し立て者とコンパレーターのペアを作成することを目的とした理想的な比較を表します。
その代替として、MM コンパレータを定義します。これは、コンパレータが、保護されていない属性に対する保護された属性の影響がなければ申立人のものであったであろうものを表すことを要求します。
この場合、苦情申し立て者と比較者のペアは、すべての属性の点で似ていない可能性があります。
これら 2 つの比較器と、実際の例を使用してそれらが識別テストに及ぼす影響を説明します。
重要なのは、生成モデルと全体的な機械学習手法を、MM コンパレーターを構築するための有用なツールとして位置づけ、その結果、識別テストの際に、より複雑で現実的な比較を実現できることです。

要約(オリジナル)

Testing for discrimination consists of deriving a profile, known as the comparator, similar to the profile making the discrimination claim, known as the complainant, and comparing the outcomes of these two profiles. An important aspect for establishing discrimination is evidence, often obtained via discrimination testing tools that implement the complainant-comparator pair. In this work, we revisit the role of the comparator in discrimination testing. We argue for the causal modeling nature of deriving the comparator, and introduce a two-kinds classification for the comparator: the ceteris paribus (CP), and mutatis mutandis (MM) comparators. The CP comparator is the standard one among discrimination testing, representing an idealized comparison as it aims for having a complainant-comparator pair that only differs on membership to the protected attribute. As an alternative to it, we define the MM comparator, which requires that the comparator represents what would have been of the complainant without the effects of the protected attribute on the non-protected attributes. The complainant-comparator pair, in that case, may also be dissimilar in terms of all attributes. We illustrate these two comparators and their impact on discrimination testing using a real illustrative example. Importantly, we position generative models and, overall, machine learning methods as useful tools for constructing the MM comparator and, in turn, achieving more complex and realistic comparisons when testing for discrimination.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google