A Principles-based Ethics Assurance Argument Pattern for AI and Autonomous Systems

要約

保証ケースは、航空機などの重要なシステムまたは複雑なシステムが、意図された状況内で十分に安全であるという確信を伝えるために、通常は安全技術者によって作成される構造化された議論です。
保証ケースでは、第三者によるシステムの承認が通知されることがよくあります。
信頼できる AI および自律システム (AI/AS) 研究コミュニティ内で新たに浮上した提案の 1 つは、保証ケースを使用して、明確に定義されたコンテキストで動作する場合、特定の AI/AS が倫理的に許容されるという正当な自信を植え付けることです。
この文書はこの命題を大幅に発展させ、それを具体化します。
これは、保証ケースの方法論と一連の倫理原則を組み合わせて、原則に基づいた倫理保証の議論パターンを構築します。
その原則は正義、善意、非悪意、人間の自主性の尊重であり、透明性の原則が補助的な役割を果たしています。
頭字語 PRAISE と短縮された引数パターンについて説明します。
提案された PRAISE 議論パターンの目的は、個々の倫理保証ケースに再利用可能なテンプレートを提供することです。これにより、エンジニア、開発者、オペレーター、または規制当局は、特定のツールの使用の全体的な倫理的受容性についての主張を正当化し、伝達し、異議を唱えることができます。
特定の社会技術的文脈における AI/AS。
このパターンを、市内中心部の自動運転ロボタクシー サービスの仮想的な使用例に適用します。

要約(オリジナル)

An assurance case is a structured argument, typically produced by safety engineers, to communicate confidence that a critical or complex system, such as an aircraft, will be acceptably safe within its intended context. Assurance cases often inform third party approval of a system. One emerging proposition within the trustworthy AI and autonomous systems (AI/AS) research community is to use assurance cases to instil justified confidence that specific AI/AS will be ethically acceptable when operational in well-defined contexts. This paper substantially develops the proposition and makes it concrete. It brings together the assurance case methodology with a set of ethical principles to structure a principles-based ethics assurance argument pattern. The principles are justice, beneficence, non-maleficence, and respect for human autonomy, with the principle of transparency playing a supporting role. The argument pattern, shortened to the acronym PRAISE, is described. The objective of the proposed PRAISE argument pattern is to provide a reusable template for individual ethics assurance cases, by which engineers, developers, operators, or regulators could justify, communicate, or challenge a claim about the overall ethical acceptability of the use of a specific AI/AS in a given socio-technical context. We apply the pattern to the hypothetical use case of an autonomous robo-taxi service in a city centre.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google