Fairness and Bias in Robot Learning

要約

機械学習により、ロボットの能力が大幅に向上し、人間の環境でさまざまなタスクを実行し、不確実な現実の世界に適応できるようになりました。
機械学習のさまざまな分野での最近の研究により、これらのアルゴリズムが人間の偏見を再現せず、結果として差別的な結果につながることを確実にするために、公平性を考慮することの重要性が浮き彫りになりました。
ロボット学習システムが日常生活でますます多くのタスクを実行するようになっているため、特定のグループの人々に対する意図しない行動を防ぐために、そのようなバイアスの影響を理解することが重要です。
この作業では、技術的、倫理的、および法的課題にまたがる学際的な視点からのロボット学習の公平性に関する最初の調査を提示します。
バイアスの原因とその結果として生じる差別の種類の分類法を提案します。
さまざまなロボット学習ドメインの例を使用して、不公平な結果のシナリオとそれらを軽減するための戦略を調べます。
さまざまな公平性の定義、倫理的および法的な考慮事項、および公正なロボット学習の方法をカバーすることにより、この分野の初期の進歩を紹介します。
この作業により、公正なロボット学習における画期的な開発への道を開くことを目指しています。

要約(オリジナル)

Machine learning has significantly enhanced the abilities of robots, enabling them to perform a wide range of tasks in human environments and adapt to our uncertain real world. Recent works in various domains of machine learning have highlighted the importance of accounting for fairness to ensure that these algorithms do not reproduce human biases and consequently lead to discriminatory outcomes. With robot learning systems increasingly performing more and more tasks in our everyday lives, it is crucial to understand the influence of such biases to prevent unintended behavior toward certain groups of people. In this work, we present the first survey on fairness in robot learning from an interdisciplinary perspective spanning technical, ethical, and legal challenges. We propose a taxonomy for sources of bias and the resulting types of discrimination due to them. Using examples from different robot learning domains, we examine scenarios of unfair outcomes and strategies to mitigate them. We present early advances in the field by covering different fairness definitions, ethical and legal considerations, and methods for fair robot learning. With this work, we aim at paving the road for groundbreaking developments in fair robot learning.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google