Model Reporting for Certifiable AI: A Proposal from Merging EU Regulation into AI Development

要約

説明可能で安全な AI は大きく進歩しているにもかかわらず、実務者は AI の安全性に関する規制や基準の欠如に苦しんでいます。
この研究では、欧州連合による最近の規制の取り組みと AI ガイドラインの最初の提案を、最近の研究傾向であるデータとモデル カードと融合させます。
私たちは、開発プロセス全体を通じて AI アプリケーションを文書化するために標準化されたカードの使用を提案します。
私たちの主な貢献は、規制要件に対応するためのデータ カードとモデル カードの更新に加えて、ユースケース カードと操作カードの導入です。
カードでは最近の研究と規制のソースの両方を参照し、可能な限り追加のサポート資料やツールボックスへの参照を提供します。
目標は、実務者が開発プロセス全体を通じて安全な AI システムを開発できるようにしながら、AI アプリケーションの効率的なサードパーティ監査を可能にし、理解しやすく、システムの信頼を構築するカードを設計することです。
私たちの取り組みには、認証専門家だけでなく、開発された AI アプリケーションを扱う開発者や個人へのインタビューから得た洞察が組み込まれています。

要約(オリジナル)

Despite large progress in Explainable and Safe AI, practitioners suffer from a lack of regulation and standards for AI safety. In this work we merge recent regulation efforts by the European Union and first proposals for AI guidelines with recent trends in research: data and model cards. We propose the use of standardized cards to document AI applications throughout the development process. Our main contribution is the introduction of use-case and operation cards, along with updates for data and model cards to cope with regulatory requirements. We reference both recent research as well as the source of the regulation in our cards and provide references to additional support material and toolboxes whenever possible. The goal is to design cards that help practitioners develop safe AI systems throughout the development process, while enabling efficient third-party auditing of AI applications, being easy to understand, and building trust in the system. Our work incorporates insights from interviews with certification experts as well as developers and individuals working with the developed AI applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google