RE-centric Recommendations for the Development of Trustworthy(er) Autonomous Systems

要約

EU 内では、AI システムの開発および導入時に EU AI 法 (AIA) ガイドラインに準拠することがまもなく義務化されます。
しかし、実務者には、AI システム開発中に倫理を運用するための実行可能な指示が不足しています。
さまざまな倫理ガイドラインの文献レビューにより、取り上げられている原則とそれらを説明するために使用されている用語に一貫性がないことが明らかになりました。
さらに、初期段階から AI 開発プロセスの信頼性を高めるとされる要件エンジニアリング (RE) が、倫理的で信頼できる AI の開発をサポートする多くのフレームワークに欠けていることが観察されました。
この矛盾した表現と具体的な開発実践の欠如が相まって、信頼できる AI 開発を困難にしています。
この懸念に対処するために、主要な倫理 AI ガイドラインで使用される用語と倫理 AI 原則の範囲の比較表を作成しました。
次に、信頼できる AI システムの開発中に効果的な RE を実行するための倫理的な AI 開発フレームワークの適用可能性を検討しました。
倫理的な AI フレームワークについて議論した文献の三次レビューとメタ分析により、信頼できる AI を開発する際の限界が明らかになりました。
私たちの調査結果に基づいて、信頼できる AI の開発中にそのような制限に対処するための推奨事項を提案します。

要約(オリジナル)

Complying with the EU AI Act (AIA) guidelines while developing and implementing AI systems will soon be mandatory within the EU. However, practitioners lack actionable instructions to operationalise ethics during AI systems development. A literature review of different ethical guidelines revealed inconsistencies in the principles addressed and the terminology used to describe them. Furthermore, requirements engineering (RE), which is identified to foster trustworthiness in the AI development process from the early stages was observed to be absent in a lot of frameworks that support the development of ethical and trustworthy AI. This incongruous phrasing combined with a lack of concrete development practices makes trustworthy AI development harder. To address this concern, we formulated a comparison table for the terminology used and the coverage of the ethical AI principles in major ethical AI guidelines. We then examined the applicability of ethical AI development frameworks for performing effective RE during the development of trustworthy AI systems. A tertiary review and meta-analysis of literature discussing ethical AI frameworks revealed their limitations when developing trustworthy AI. Based on our findings, we propose recommendations to address such limitations during the development of trustworthy AI.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google