Implementing Responsible AI: Tensions and Trade-Offs Between Ethics Aspects

要約

AI/ML システムの誤用や悪用に関する懸念を和らげるために、責任ある AI に関する多くの倫理原則が提案されています。
このような一連の原則の基礎となる側面には、プライバシー、正確性、公平性、堅牢性、説明可能性、透明性が含まれます。
ただし、これらの側面の間には潜在的な緊張があり、これらの原則に従おうとする AI/ML 開発者にとって困難が生じます。
たとえば、AI/ML システムの精度を高めると、その説明可能性が低下する可能性があります。
原則を実践に移すための継続的な取り組みの一環として、この研究では、基礎的な側面間の 10 の注目すべき緊張、トレードオフ、およびその他の相互作用のカタログを編集し、議論します。
私たちは主に双方向の相互作用に焦点を当てており、多様な文献に広がるサポートを活用しています。
このカタログは、倫理原則の各側面間の相互作用の可能性についての認識を高めるだけでなく、AI/ML システムの設計者や開発者による十分な裏付けのある判断を容易にするのに役立ちます。

要約(オリジナル)

Many sets of ethics principles for responsible AI have been proposed to allay concerns about misuse and abuse of AI/ML systems. The underlying aspects of such sets of principles include privacy, accuracy, fairness, robustness, explainability, and transparency. However, there are potential tensions between these aspects that pose difficulties for AI/ML developers seeking to follow these principles. For example, increasing the accuracy of an AI/ML system may reduce its explainability. As part of the ongoing effort to operationalise the principles into practice, in this work we compile and discuss a catalogue of 10 notable tensions, trade-offs and other interactions between the underlying aspects. We primarily focus on two-sided interactions, drawing on support spread across a diverse literature. This catalogue can be helpful in raising awareness of the possible interactions between aspects of ethics principles, as well as facilitating well-supported judgements by the designers and developers of AI/ML systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google