Responsible Design Patterns for Machine Learning Pipelines

要約

人工知能 (AI) の AI 開発プロセスに倫理慣行を組み込むことは、安全、公正、責任ある運用を確保するために不可欠です。
AI 倫理には、AI システムのライフサイクル全体に倫理原則を適用することが含まれます。
これは、アルゴリズムのバイアスなど、AI に関連する潜在的なリスクや害を軽減するために不可欠です。
この目標を達成するには、倫理的で公正な結果を保証する機械学習 (ML) パイプラインにとって責任ある設計パターン (RDP) が不可欠です。
このペーパーでは、リスクを軽減し、AI システムの倫理的な開発を確保するために、RDP を ML パイプラインに組み込んだ包括的なフレームワークを提案します。
私たちのフレームワークは、AI 倫理とデータ管理の専門家の調査を通じて特定され、専門家のフィードバックを伴う現実世界のシナリオを通じて検証された、ML パイプラインのための新しい責任ある AI 設計パターンで構成されています。
このフレームワークは、AI 開発者、データ サイエンティスト、政策立案者が AI 開発における倫理的慣行を実装し、責任ある AI システムを本番環境に導入できるようにガイドします。

要約(オリジナル)

Integrating ethical practices into the AI development process for artificial intelligence (AI) is essential to ensure safe, fair, and responsible operation. AI ethics involves applying ethical principles to the entire life cycle of AI systems. This is essential to mitigate potential risks and harms associated with AI, such as algorithm biases. To achieve this goal, responsible design patterns (RDPs) are critical for Machine Learning (ML) pipelines to guarantee ethical and fair outcomes. In this paper, we propose a comprehensive framework incorporating RDPs into ML pipelines to mitigate risks and ensure the ethical development of AI systems. Our framework comprises new responsible AI design patterns for ML pipelines identified through a survey of AI ethics and data management experts and validated through real-world scenarios with expert feedback. The framework guides AI developers, data scientists, and policy-makers to implement ethical practices in AI development and deploy responsible AI systems in production.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google