Systemic Fairness

要約

タイトル：Systemic Fairness（システム的公正性）

要約：
– 機械学習アルゴリズムは、多様な場面で意思決定のために使用されるようになってきている。一方で、そのような方法の公正性についての懸念も高まってきている。
– 公正なアルゴリズムに関する以前の文献は、リスクを詳細に分析し、場合によってはこれらのリスクを管理する方法を提示してきた。ただし、ほとんどの研究は焦点決定者または代理人による影響を受ける公正性の問題に焦点を当てている。
– 実際のシステムでは、複数のエージェントが協調して大規模な生態系の一部として動作している。たとえば、貸借審査の場合、申請人のためのローンを評価する複数の貸し手がいる一方、政策立案者や他の機関の決定も結果に影響する。したがって、単一の決定者のローン審査の広範な影響は、エコシステム内の複数の異なるエージェントの行動に依存する可能性が高い。
– この論文では、システム的公正性の形式化と、実際のコンテキストでのエコシステム全体の公正性、またはより単純にシステム的公正性への注力を求める。

要約(オリジナル)

Machine learning algorithms are increasingly used to make or support decisions in a wide range of settings. With such expansive use there is also growing concern about the fairness of such methods. Prior literature on algorithmic fairness has extensively addressed risks and in many cases presented approaches to manage some of them. However, most studies have focused on fairness issues that arise from actions taken by a (single) focal decision-maker or agent. In contrast, most real-world systems have many agents that work collectively as part of a larger ecosystem. For example, in a lending scenario, there are multiple lenders who evaluate loans for applicants, along with policymakers and other institutions whose decisions also affect outcomes. Thus, the broader impact of any lending decision of a single decision maker will likely depend on the actions of multiple different agents in the ecosystem. This paper develops formalisms for firm versus systemic fairness, and calls for a greater focus in the algorithmic fairness literature on ecosystem-wide fairness – or more simply systemic fairness – in real-world contexts.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI