Causal Perception

要約

認識は、2 人の個人が同じ情報を異なる方法で解釈するときに発生します。
個人の経験が解釈を決定するため、意思決定におけるバイアスに影響を与える既知の現象であるにもかかわらず、自動化された意思決定 (ADM) システムでは認識が依然としてほとんど無視されています。
特に、公平性自体はコンテキスト固有であり、その解釈は誰が判断するかに依存するため、ADM システムの公平性または公正な使用に多大な影響を与える可能性があります。
この研究では、個人による解釈行為を捉えるために、因果関係に基づく推論に基づいて認識を形式化します。
また、私たちは個人の経験を、個人に付属し、個人によって使用される追加の因果関係の知識として形式化します。
さらに、認識を呼び起こしやすい属性であるロードされた属性について定義し、説明します。
性別や人種などの機密属性は、ロードされる属性の明らかな例です。
忠実さと一貫性という因果関係に基づいて、不忠実と矛盾という 2 種類の因果的認識を定義します。
一連の意思決定の例を通じてフレームワークを説明し、関連する公平性の適用について説明します。
この研究の目標は、標準的な単一解釈の ADM 問題定式化を拡張するのに役立つ、関心のあるパラメータとして知覚を位置づけることです。

要約(オリジナル)

Perception occurs when two individuals interpret the same information differently. Despite being a known phenomenon with implications for bias in decision-making, as individuals’ experience determines interpretation, perception remains largely overlooked in automated decision-making (ADM) systems. In particular, it can have considerable effects on the fairness or fair usage of an ADM system, as fairness itself is context-specific and its interpretation dependent on who is judging. In this work, we formalize perception under causal reasoning to capture the act of interpretation by an individual. We also formalize individual experience as additional causal knowledge that comes with and is used by an individual. Further, we define and discuss loaded attributes, which are attributes prone to evoke perception. Sensitive attributes, such as gender and race, are clear examples of loaded attributes. We define two kinds of causal perception, unfaithful and inconsistent, based on the causal properties of faithfulness and consistency. We illustrate our framework through a series of decision-making examples and discuss relevant fairness applications. The goal of this work is to position perception as a parameter of interest, useful for extending the standard, single interpretation ADM problem formulation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google