Standardised schema and taxonomy for AI incident databases in critical digital infrastructure

要約

重要なデジタルインフラストラクチャにおける人工知能（AI）の迅速な展開は、重大なリスクをもたらし、将来のインシデントデータを体系的に収集するための堅牢なフレームワークを必要とします。
既存のデータベースには、一貫したデータ収集と分析に必要な標準化された構造があり、効果的なインシデント管理を妨げます。
この作業は、AIインシデントデータベースの標準化されたスキーマと分類法を提案し、セクター全体のAIインシデントの詳細かつ構造化されたドキュメントを可能にすることにより、これらの課題に対処します。
重要な貢献には、統一されたスキーマの開発、インシデントの重大度、原因、害などの新しい分野の導入、および重要なデジタルインフラストラクチャにおけるAIインシデントを分類するための分類法の提案が含まれます。
提案されたソリューションは、より効果的なインシデントデータの収集と分析を促進し、エビデンスに基づいた政策立案、業界の安全対策の強化、透明性の促進をサポートします。
この作業は、AIインシデントに対する調整されたグローバルな対応の基礎となり、地域全体でAIを使用する際の信頼、安全性、および説明責任を確保します。

要約(オリジナル)

The rapid deployment of Artificial Intelligence (AI) in critical digital infrastructure introduces significant risks, necessitating a robust framework for systematically collecting AI incident data to prevent future incidents. Existing databases lack the granularity as well as the standardized structure required for consistent data collection and analysis, impeding effective incident management. This work proposes a standardized schema and taxonomy for AI incident databases, addressing these challenges by enabling detailed and structured documentation of AI incidents across sectors. Key contributions include developing a unified schema, introducing new fields such as incident severity, causes, and harms caused, and proposing a taxonomy for classifying AI incidents in critical digital infrastructure. The proposed solution facilitates more effective incident data collection and analysis, thus supporting evidence-based policymaking, enhancing industry safety measures, and promoting transparency. This work lays the foundation for a coordinated global response to AI incidents, ensuring trust, safety, and accountability in using AI across regions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google