A Systems Thinking Approach to Algorithmic Fairness

要約

システム思考は、データ生成プロセスのどこにバイアスが存在すると思われるかについての事前の知識と仮定をエンコードできるようにすることで、アルゴリズムの公平性の問題をモデル化する方法を提供します。
これらの信念を一連の因果関係グラフとしてエンコードすることで、AI/ML システムを政治や法律にリンクできるようになります。
これにより、機械学習、因果推論、システムダイナミクスの手法を組み合わせて、公平性の問題の新たなさまざまな側面を捉えることが可能になります。
システム思考を使用すると、政治的通路の両側の政策立案者がさまざまな種類の公平性政策から存在する複雑なトレードオフを理解できるようになり、政治的アジェンダに沿った AI 政策を設計するための社会技術的基盤を提供できます。

要約(オリジナル)

Systems thinking provides us with a way to model the algorithmic fairness problem by allowing us to encode prior knowledge and assumptions about where we believe bias might exist in the data generating process. We can then encode these beliefs as a series of causal graphs, enabling us to link AI/ML systems to politics and the law. This allows us to combine techniques from machine learning, causal inference, and system dynamics in order to capture different emergent aspects of the fairness problem. We can use systems thinking to help policymakers on both sides of the political aisle to understand the complex trade-offs that exist from different types of fairness policies, providing a sociotechnical foundation for designing AI policy that is aligned to their political agendas.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google