Can Fairness be Automated? Guidelines and Opportunities for Fairness-aware AutoML

要約

自動機械学習 (AutoML) の分野では、機械学習 (ML) システムの開発の一部を自動化する手法が導入され、プロセスが加速され、初心者の障壁が軽減されます。
ただし、ML モデルから派生した決定は、社会に不公平を再現、増幅、さらには導入する可能性があり、個人 (のグループ) に害を及ぼす可能性があります。
これに対応して、研究者は、公平性と予測パフォーマンスを共同で最適化して、公平性に関連する害を軽減する AutoML システムの提案を開始しました。
ただし、公平性は複雑で本質的に学際的な課題であり、それを最適化の問題としてのみ提起すると、悪影響が生じる可能性があります。
この作業により、公平性を考慮した AutoML のこのような制限について AutoML システムの開発者の間で認識を高めると同時に、公平性研究のツールとしての AutoML の可能性に注意を喚起することを目指しています。
公平性に関連する害が発生する可能性があるさまざまな方法の包括的な概要と、公平性を意識した AutoML の設計に対するその後の影響を示します。
公平性を自動化することはできませんが、公平性を意識した AutoML は ML 実践者のツールボックスで重要な役割を果たすことができると結論付けています。
この方向での将来の作業のためのいくつかの未解決の技術的課題を強調します。
さらに、公正な作業で遭遇する課題に取り組むために設計された、よりユーザー中心の支援システムの作成を提唱します。

要約(オリジナル)

The field of automated machine learning (AutoML) introduces techniques that automate parts of the development of machine learning (ML) systems, accelerating the process and reducing barriers for novices. However, decisions derived from ML models can reproduce, amplify, or even introduce unfairness in our societies, causing harm to (groups of) individuals. In response, researchers have started to propose AutoML systems that jointly optimize fairness and predictive performance to mitigate fairness-related harm. However, fairness is a complex and inherently interdisciplinary subject, and solely posing it as an optimization problem can have adverse side effects. With this work, we aim to raise awareness among developers of AutoML systems about such limitations of fairness-aware AutoML, while also calling attention to the potential of AutoML as a tool for fairness research. We present a comprehensive overview of different ways in which fairness-related harm can arise and the ensuing implications for the design of fairness-aware AutoML. We conclude that while fairness cannot be automated, fairness-aware AutoML can play an important role in the toolbox of an ML practitioner. We highlight several open technical challenges for future work in this direction. Additionally, we advocate for the creation of more user-centered assistive systems designed to tackle challenges encountered in fairness work.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google