Beyond Bias and Compliance: Towards Individual Agency and Plurality of Ethics in AI

要約

AI 倫理は、人間の価値を機械に組み込むという問題をどのように解決するのが最善かについて、複数の競合する物語を持つ新興分野です。
2 つの主要なアプローチは、それぞれバイアスとコンプライアンスに焦点を当てています。
しかし、これらのアイデアはどちらも倫理を完全に網羅していません。特定の状況でどのように行動するかを決定するために道徳的原則を使用します。
私たちの方法は、データにラベルを付ける方法が、AI の動作に重要な役割を果たし、したがって機械自体の倫理に重要な役割を果たしていると仮定しています。
この議論は、倫理からの基本的な洞察 (つまり、倫理とは価値に関するもの) と、機械学習システムの構築とスケーリングに関する私たちの実際の経験を組み合わせたものです。
優れたシステムを構築する方法、システム アーキテクチャに関連して何が優れているかを定義する方法、およびその定義を誰が提供する必要があるかという基本的な懸念に最初に対処することで、実際に倫理的な AI を構築したいと考えています。
倫理的な AI を構築することで、企業とそのプラットフォームのユーザーとの間に信頼の基盤が生まれます。
しかし、ユーザーが倫理的な AI の直接的な価値を体験しない限り、この信頼は正当化されません。
ユーザーがアルゴリズムの動作を実際に制御できるようになるまで、現在の AI ソリューションには何かが欠けています。
これにより、AI に対する大きな不信感が生じ、AI の倫理ソリューションに対する無関心が生じています。
この論文の目的は、複数の価値と個々の表現の自由を可能にする代替パスを提案することです。
どちらも、真の道徳的性格を実現するために不可欠です。

要約(オリジナル)

AI ethics is an emerging field with multiple, competing narratives about how to best solve the problem of building human values into machines. Two major approaches are focused on bias and compliance, respectively. But neither of these ideas fully encompasses ethics: using moral principles to decide how to act in a particular situation. Our method posits that the way data is labeled plays an essential role in the way AI behaves, and therefore in the ethics of machines themselves. The argument combines a fundamental insight from ethics (i.e. that ethics is about values) with our practical experience building and scaling machine learning systems. We want to build AI that is actually ethical by first addressing foundational concerns: how to build good systems, how to define what is good in relation to system architecture, and who should provide that definition. Building ethical AI creates a foundation of trust between a company and the users of that platform. But this trust is unjustified unless users experience the direct value of ethical AI. Until users have real control over how algorithms behave, something is missing in current AI solutions. This causes massive distrust in AI, and apathy towards AI ethics solutions. The scope of this paper is to propose an alternative path that allows for the plurality of values and the freedom of individual expression. Both are essential for realizing true moral character.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google