What Constitutes a Less Discriminatory Algorithm?

要約

異なる影響ドクトリンは、差別的なデータ駆動型アルゴリズムの決定を標的とするための重要な法的装置を提供します。
最近の作業は、この教義から特定の構成要素を概念化することに焦点を当てています。それほど差別的な代替手段は、現状またはベースラインポリシーの同じビジネスニーズを満たしながら格差を減らす代替ポリシーです。
ただし、アルゴリズム設定でこの構成を操作しようとする試みは、いくつかの厄介な課題と曖昧さに取り組む必要があります。
この論文では、差別の少ないアルゴリズム（LDA）に関する重要な質問を提起して解決しようとします。
LDAを正式に定義する方法、そしてこれは彼らが奉仕するかもしれないさまざまな社会的目標とどのように相互作用しますか？
そして、企業や原告が候補者のLDAを計算的に検索することはどれほど実現可能ですか？
正式なLDA定義は、保有データがない場合に予測モデルを評価および比較しようとすると、基本的な課題に直面していることがわかります。
その結果、LDAの定義は純粋に定量的ではなく、「合理性」の基準に依存しなければならないと主張します。
次に、LDAの積極的な検索を効率的に実施する企業の能力に対する数学的および計算上の制約の両方を特定しますが、これらの制限が正式な意味で「弱い」という証拠を提供します。
LDAを正式に定義することにより、企業と原告の両方が社会的目標と複合する代替モデルを検索できるフレームワークを提案しました。

要約(オリジナル)

Disparate impact doctrine offers an important legal apparatus for targeting discriminatory data-driven algorithmic decisions. A recent body of work has focused on conceptualizing one particular construct from this doctrine: the less discriminatory alternative, an alternative policy that reduces disparities while meeting the same business needs of a status quo or baseline policy. However, attempts to operationalize this construct in the algorithmic setting must grapple with some thorny challenges and ambiguities. In this paper, we attempt to raise and resolve important questions about less discriminatory algorithms (LDAs). How should we formally define LDAs, and how does this interact with different societal goals they might serve? And how feasible is it for firms or plaintiffs to computationally search for candidate LDAs? We find that formal LDA definitions face fundamental challenges when they attempt to evaluate and compare predictive models in the absence of held-out data. As a result, we argue that LDA definitions cannot be purely quantitative, and must rely on standards of ‘reasonableness.’ We then identify both mathematical and computational constraints on firms’ ability to efficiently conduct a proactive search for LDAs, but we provide evidence that these limits are ‘weak’ in a formal sense. By defining LDAs formally, we put forward a framework in which both firms and plaintiffs can search for alternative models that comport with societal goals.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google