Multimodal Composite Association Score: Measuring Gender Bias in Generative Multimodal Models

要約

タイトル: 多様なモードの合成評価スコア：生成的多様なモデルにおけるジェンダーバイアスの測定

要約:

– 最近では、拡散モデルに基づく生成的多様モデルが急速に発展してきている
– これらのモデルは抽象的なアイデアを組み合わせて画像を作成するのに非常に成功している
– しかしながら、他の深層学習モデルと同様に、彼らもしばしばインターネットから収集されたトレーニングデータから継承した社会的バイアスを反映している
– バイアスの手動監査は非常に時間とリソースがかかる上、これらのモデルが取り込む入力が無制限であるため、さらに複雑になる
– バイアスの測定と量子化に関する研究は、一般的に単一のモダリティ上で作業する小規模な単一ステージのモデルに焦点を当ててきた
– そのため、マルチステージ多様なモデルの登場には異なるアプローチが必要である
– 本論文では、Multimodal Composite Association Score（MCAS）を提案し、多様なモダリティを持つ生成的多様なモデルのジェンダーバイアスを測定する新しい方法として述べている
– このアプローチを使用して、DALL-E 2とStable Diffusionの両方を評価することで、埋め込まれた概念の性別に基づく関連性が存在することが明らかになった
– MCASは、潜在的なバイアスを持つ異なるモダリティのモデルに対してアクセス可能でスケーラブルな量子化手法として提案されている

要約(オリジナル)

Generative multimodal models based on diffusion models have seen tremendous growth and advances in recent years. Models such as DALL-E and Stable Diffusion have become increasingly popular and successful at creating images from texts, often combining abstract ideas. However, like other deep learning models, they also reflect social biases they inherit from their training data, which is often crawled from the internet. Manually auditing models for biases can be very time and resource consuming and is further complicated by the unbounded and unconstrained nature of inputs these models can take. Research into bias measurement and quantification has generally focused on small single-stage models working on a single modality. Thus the emergence of multistage multimodal models requires a different approach. In this paper, we propose Multimodal Composite Association Score (MCAS) as a new method of measuring gender bias in multimodal generative models. Evaluating both DALL-E 2 and Stable Diffusion using this approach uncovered the presence of gendered associations of concepts embedded within the models. We propose MCAS as an accessible and scalable method of quantifying potential bias for models with different modalities and a range of potential biases.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI