Multi-Group Proportional Representation

要約

画像の検索や取得のタスクは、有害な固定観念を永続させ、文化的アイデンティティを消去し、社会的格差を拡大する可能性があります。
これらの表現上の害を軽減する現在のアプローチは、少数の (多くの場合 2 値の) 属性によって定義される母集団グループ全体で、取得される項目の数のバランスをとります。
しかし、既存の手法のほとんどは、性別、人種、民族などのグループ属性の組み合わせによって決定される交差グループを見落としています。
交差するグループ全体の代表を測定する新しい指標であるマルチグループ比例代表 (MPR) を紹介します。
MPR を推定するための実用的な方法を開発し、理論的な保証を提供し、検索時に MPR を保証するための最適化アルゴリズムを提案します。
我々は、平等および比例代表メトリクスを最適化する既存の方法では MPR を促進できない可能性があることを実証します。
重要なことに、私たちの研究は、MPR を最適化すると、多くの場合、検索精度の妥協を最小限に抑えながら、豊富な関数クラスで指定された複数の交差グループにわたってより多くの比例表現を生み出すことを示しています。

要約(オリジナル)

Image search and retrieval tasks can perpetuate harmful stereotypes, erase cultural identities, and amplify social disparities. Current approaches to mitigate these representational harms balance the number of retrieved items across population groups defined by a small number of (often binary) attributes. However, most existing methods overlook intersectional groups determined by combinations of group attributes, such as gender, race, and ethnicity. We introduce Multi-Group Proportional Representation (MPR), a novel metric that measures representation across intersectional groups. We develop practical methods for estimating MPR, provide theoretical guarantees, and propose optimization algorithms to ensure MPR in retrieval. We demonstrate that existing methods optimizing for equal and proportional representation metrics may fail to promote MPR. Crucially, our work shows that optimizing MPR yields more proportional representation across multiple intersectional groups specified by a rich function class, often with minimal compromise in retrieval accuracy.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google