What’s the Problem, Linda? The Conjunction Fallacy as a Fairness Problem

要約

人工知能 (AI) の分野は、人間のような知能にできるだけ近い動作をする自動意思決定 (ADM) システムの作成に焦点を当てています。
この取り組みにより、AI 研究者は心理学などの認知分野の研究に取り組むようになりました。
このため、人間の偏った意思決定に関するダニエル・カーネマンと故エイモス・トベルスキーの研究（結合誤謬の研究を含む）は、二度目の復活を経験した。
結合の誤謬の下では、人間の意思決定者は基本的な確率法則に反し、その部分の 1 つに対して結合である可能性が高いとランク付けされます。
それは一連の実験を通じて証明されており、最も有名なのはリンダ問題です。
この学際的な取り組みは歓迎されますが、AI 研究者が、リンダ問題で捉えられた結合の誤謬の背後にある原動力、つまりリンダはステレオタイプ的に女性として描写されなければならないという事実を無視しているのではないかと懸念しています。
この論文では、リンダ問題を再検討し、それを公平性の問題として定式化します。
そうすることで、構造的因果関係の知覚フレームワークを通じて、関心のあるパラメータとして知覚を導入します。
意思決定の例を用いて、提案されている概念的なフレームワークと、公平な ADM システムの開発に対するその潜在的な影響を紹介します。

要約(オリジナル)

The field of Artificial Intelligence (AI) is focusing on creating automated decision-making (ADM) systems that operate as close as possible to human-like intelligence. This effort has pushed AI researchers into exploring cognitive fields like psychology. The work of Daniel Kahneman and the late Amos Tversky on biased human decision-making, including the study of the conjunction fallacy, has experienced a second revival because of this. Under the conjunction fallacy a human decision-maker will go against basic probability laws and rank as more likely a conjunction over one of its parts. It has been proven overtime through a set of experiments with the Linda Problem being the most famous one. Although this interdisciplinary effort is welcomed, we fear that AI researchers ignore the driving force behind the conjunction fallacy as captured by the Linda Problem: the fact that Linda must be stereotypically described as a woman. In this paper we revisit the Linda Problem and formulate it as a fairness problem. In doing so we introduce perception as a parameter of interest through the structural causal perception framework. Using an illustrative decision-making example, we showcase the proposed conceptual framework and its potential impact for developing fair ADM systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google