From Individual Experience to Collective Evidence: A Reporting-Based Framework for Identifying Systemic Harms

要約

個人が何らかのシステムとの否定的な相互作用を報告する場合、システムの動作のより広いパターンで個人的な経験をどのように文脈化することができますか？
有害事象の個々の報告が連続して到着し、時間とともに集計されている報告データベースの問題を研究します。
この作業では、私たちの目標は、関連する機能の任意の組み合わせによって定義されているサブグループがあるかどうかを特定することです。つまり、システムとの有害な相互作用を経験する可能性があります。
この問題を連続的な仮説テストとして正式にし、サブグループ全体で真の危害率の格差について推論するのに十分な報告行動に関する条件を特定します。
標準的な複数のテスト補正で、この問題に連続的な仮説テストのアルゴリズムを適用できることを示します。
次に、住宅ローンの決定やワクチンの副作用など、実際のデータセットに関する方法を実証します。
それぞれで、私たちの方法は、それらを発見するために最初に使用されたデータのほんの一部のみを使用して、不均衡な害を経験することが知られているサブグループを識別します。

要約(オリジナル)

When an individual reports a negative interaction with some system, how can their personal experience be contextualized within broader patterns of system behavior? We study the reporting database problem, where individual reports of adverse events arrive sequentially, and are aggregated over time. In this work, our goal is to identify whether there are subgroups–defined by any combination of relevant features–that are disproportionately likely to experience harmful interactions with the system. We formalize this problem as a sequential hypothesis test, and identify conditions on reporting behavior that are sufficient for making inferences about disparities in true rates of harm across subgroups. We show that algorithms for sequential hypothesis tests can be applied to this problem with a standard multiple testing correction. We then demonstrate our method on real-world datasets, including mortgage decisions and vaccine side effects; on each, our method (re-)identifies subgroups known to experience disproportionate harm using only a fraction of the data that was initially used to discover them.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google