An evidence-based methodology for human rights impact assessment (HRIA) in the development of AI data-intensive systems

要約

人工知能 (AI) の課題に対処するためにさまざまなアプローチが採用されており、そのアプローチは個人データに重点​​を置き、その他は倫理に重点を置き、それぞれ AI 規制の範囲を狭めたり広げたりしています。
この寄稿は、データ集約型システムの影響を規制する際に人権が果たし得る役割を認識することから始まる、第 3 の方法が可能であることを実証することを目的としています。
人権への焦点は、パラダイムシフトでも単なる理論的実践でもありません。
6 か国のデータ保護当局による 700 を超える決定と文書の分析を通じて、データ利用の分野における決定の基礎となっているのが人権であることを示しています。
この証拠の実証的分析に基づいて、この研究は人権影響評価 (HRIA) の方法論とモデルを提示します。
この方法論と関連する評価モデルは AI アプリケーションに焦点を当てており、その性質と規模には HRIA 方法論の適切な文脈化が必要です。
さらに、提案されたモデルは、リスク閾値を中心とした規制提案と一致する、リスク評価へのより測定可能なアプローチを提供します。
提案された方法論は、その実現可能性と有効性を証明するために、具体的なケーススタディでテストされます。
全体的な目標は、HRIA への関心の高まりに応え、単なる理論的な議論から、AI に基づくデータ集約型アプリケーションの分野における具体的でコンテキスト固有の実装に移行することです。

要約(オリジナル)

Different approaches have been adopted in addressing the challenges of Artificial Intelligence (AI), some centred on personal data and others on ethics, respectively narrowing and broadening the scope of AI regulation. This contribution aims to demonstrate that a third way is possible, starting from the acknowledgement of the role that human rights can play in regulating the impact of data-intensive systems. The focus on human rights is neither a paradigm shift nor a mere theoretical exercise. Through the analysis of more than 700 decisions and documents of the data protection authorities of six countries, we show that human rights already underpin the decisions in the field of data use. Based on empirical analysis of this evidence, this work presents a methodology and a model for a Human Rights Impact Assessment (HRIA). The methodology and related assessment model are focused on AI applications, whose nature and scale require a proper contextualisation of HRIA methodology. Moreover, the proposed models provide a more measurable approach to risk assessment which is consistent with the regulatory proposals centred on risk thresholds. The proposed methodology is tested in concrete case-studies to prove its feasibility and effectiveness. The overall goal is to respond to the growing interest in HRIA, moving from a mere theoretical debate to a concrete and context-specific implementation in the field of data-intensive applications based on AI.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google