A Critical Survey on Fairness Benefits of XAI

要約

この重要な調査では、説明可能な AI (XAI) と公平性の関係に関する典型的な主張を分析し、これら 2 つの概念間の多次元の関係を解きほぐします。
体系的な文献レビューとその後の定性的な内容分析に基づいて、XAI の公平性上の利点について 175 件の論文から 7 つの典型的な主張を特定しました。
私たちはこれらの主張に関して重要な警告を提示し、特定の公平性の要求に対する XAI の可能性と限界に関する将来の議論への入り口を提供します。
文献では、XAI がいくつかの公平性の要望を実現する手段であると示唆されることがよくありますが、これらの要望と XAI の機能の間には溝があることに気付きました。
私たちは、アルゴリズムの公平性という多次元的で社会技術的な課題にアプローチするための多くのツールの 1 つとして XAI を考え、どのような種類の XAI 手法によって誰がどの公平性の要求にどのように対処できるかをより具体的にすることをお勧めします。

要約(オリジナル)

In this critical survey, we analyze typical claims on the relationship between explainable AI (XAI) and fairness to disentangle the multidimensional relationship between these two concepts. Based on a systematic literature review and a subsequent qualitative content analysis, we identify seven archetypal claims from 175 papers on the alleged fairness benefits of XAI. We present crucial caveats with respect to these claims and provide an entry point for future discussions around the potentials and limitations of XAI for specific fairness desiderata. While the literature often suggests XAI to be an enabler for several fairness desiderata, we notice a divide between these desiderata and the capabilities of XAI. We encourage to conceive XAI as one of many tools to approach the multidimensional, sociotechnical challenge of algorithmic fairness and to be more specific about how exactly what kind of XAI method enables whom to address which fairness desideratum.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google