Machine Learning Should Maximize Welfare, Not (Only) Accuracy

要約

機械学習における数十年にわたる研究により、正確な予測を行うための強力なツールが与えられました。
しかし、社会的環境や人間のインプットで使用される場合、より良い精度は、より良い社会的結果にすぐに変換されません。
従来の学習フレームワークが社会的好みを表現するように設計されていないことを考えると、これは驚くことではないかもしれません。
このポジションペーパーでは、機械学習は現在欠落しており、社会福祉の適切な概念である取り込みから多くの利益を得ることができると主張しています。
福祉経済学の分野は、社会的利益を最大化する方法で限られたリソースを自己利益のエージェントにどのように割り当てるべきですか？
この視点は、社会的文脈における機械学習の多くの現代的なアプリケーションに適用され、その採用を擁護すると主張します。
予測を処分するのではなく、社会福祉を促進するためにこの機械学習を活用することを目指しています。
このアイデアを実証し、精度の最大化（福祉への認識を持つ）から福祉の最大化（正確な予測を介して）に徐々に移行する概念的なフレームワークを提案します。
私たちのフレームワークが効果的である可能性のあるアプリケーションとユースケースを詳しく説明し、技術的な課題と実用的な機会を特定し、追求する価値のある将来の道を強調します。

要約(オリジナル)

Decades of research in machine learning have given us powerful tools for making accurate predictions. But when used in social settings and on human inputs, better accuracy does not immediately translate to better social outcomes. This may not be surprising given that conventional learning frameworks are not designed to express societal preferences — let alone promote them. This position paper argues that machine learning is currently missing, and can gain much from incorporating, a proper notion of social welfare. The field of welfare economics asks: how should we allocate limited resources to self-interested agents in a way that maximizes social benefit? We argue that this perspective applies to many modern applications of machine learning in social contexts, and advocate for its adoption. Rather than disposing of prediction, we aim to leverage this forte of machine learning for promoting social welfare. We demonstrate this idea by proposing a conceptual framework that gradually transitions from accuracy maximization (with awareness to welfare) to welfare maximization (via accurate prediction). We detail applications and use-cases for which our framework can be effective, identify technical challenges and practical opportunities, and highlight future avenues worth pursuing.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google