Exploring Fairness in Pre-trained Visual Transformer based Natural and GAN Generated Image Detection Systems and Understanding the Impact of Image Compression in Fairness

要約

カメラから撮影された実際の画像から偽の画像を正確に分類または検出できる計算モデルを構築するだけで十分であるだけでなく、これらの計算モデルが十分に公平であるか、または最終的に特定の社会集団に害を及ぼす可能性のある偏った結果を生み出すかどうかを確認することも重要です
または重大なセキュリティ上の脅威を引き起こす可能性があります。
フォレンジック アルゴリズムの公平性を探ることは、これらのバイアスを修正するための最初のステップです。
ビジュアル トランスフォーマーは、高精度を生成できるため、最近、ほとんどの画像分類ベースのタスクで広く使用されているため、この研究では、自然画像と GAN で生成された画像を分類するトランスフォーマー ベースの画像フォレンジック アルゴリズムのバイアスを調査しようとしています。
この研究では、バイアス評価コーパスを入手することで、幅広い個別およびペアごとのバイアス評価尺度を使用して、性別、人種、感情、交差領域のバイアスを分析します。
画像圧縮に対するアルゴリズムの一般化可能性は、フォレンジックタスクにおいて考慮すべき重要な要素であるため、この研究ではモデルバイアスに対する画像圧縮の役割も分析しています。
したがって、モデルのバイアスに対する画像圧縮の影響を研究するには、2 段階の評価設定に従い、一連の実験を非圧縮評価設定で実行し、もう 1 つを圧縮評価設定で実行します。

要約(オリジナル)

It is not only sufficient to construct computational models that can accurately classify or detect fake images from real images taken from a camera, but it is also important to ensure whether these computational models are fair enough or produce biased outcomes that can eventually harm certain social groups or cause serious security threats. Exploring fairness in forensic algorithms is an initial step towards correcting these biases. Since visual transformers are recently being widely used in most image classification based tasks due to their capability to produce high accuracies, this study tries to explore bias in the transformer based image forensic algorithms that classify natural and GAN generated images. By procuring a bias evaluation corpora, this study analyzes bias in gender, racial, affective, and intersectional domains using a wide set of individual and pairwise bias evaluation measures. As the generalizability of the algorithms against image compression is an important factor to be considered in forensic tasks, this study also analyzes the role of image compression on model bias. Hence to study the impact of image compression on model bias, a two phase evaluation setting is followed, where a set of experiments is carried out in the uncompressed evaluation setting and the other in the compressed evaluation setting.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google