On Explaining Unfairness: An Overview

要約

アルゴリズムの公平性と説明可能性は、責任ある AI を実現するための基礎的な要素です。
本稿では、最近ますます注目を集めている研究分野であるそれらの相互作用に焦点を当てます。
この目的を達成するために、まず、公平性と説明という 2 つの相補的な研究分野の 1 つを表す 2 つの包括的な分類法を提示します。
次に、公平性の説明を 3 つのタイプに分類します。 (a) 公平性の指標を強化するための説明、 (b) 公平性 (不) の原因を理解するのに役立つ説明、 (c) 不公平性を軽減する方法の設計に役立つ説明
。
最後に、公平性と説明の分類法に基づいて、将来の研究のための貴重な洞察として役立つギャップを明らかにする未発見の文献パスを示します。

要約(オリジナル)

Algorithmic fairness and explainability are foundational elements for achieving responsible AI. In this paper, we focus on their interplay, a research area that is recently receiving increasing attention. To this end, we first present two comprehensive taxonomies, each representing one of the two complementary fields of study: fairness and explanations. Then, we categorize explanations for fairness into three types: (a) Explanations to enhance fairness metrics, (b) Explanations to help us understand the causes of (un)fairness, and (c) Explanations to assist us in designing methods for mitigating unfairness. Finally, based on our fairness and explanation taxonomies, we present undiscovered literature paths revealing gaps that can serve as valuable insights for future research.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google