AI Hazard Management: A framework for the systematic management of root causes for AI risks

要約

人工知能 (AI) 分野における最近の進歩により、困難なタスクに対処するための基盤が確立されました。
しかし、AIの統合により新たなリスクが生じます。
したがって、その利点を享受するには、AI に関連するリスクに適切に対処することが不可欠です。
ソフトウェアシステムなどの関連分野における既存のリスク管理プロセスでは、AIの特性を十分に考慮する必要があります。
主な課題は、AI リスクの根本原因 (AI ハザードとも呼ばれます) を体系的かつ透過的に特定し、対処することです。
このペーパーでは、AI ハザードを体系的に特定、評価、治療するための構造化されたプロセスを提供する AI ハザード管理 (AIHM) フレームワークを紹介します。
提案されたプロセスは、AI システムのライフサイクルの可能な限り早い段階で AI の危険を確実に捕捉するために、開発と並行して実行されます。
さらに、AI システムの監査可能性を確保するために、提案されたフレームワークは、特定された AI ハザードの潜在的な影響が許容可能なレベルまで軽減される可能性があるという証拠を体系的に文書化します。
このフレームワークは、最先端の包括的な分析に基づく AI ハザード リストに基づいて構築されています。
また、特定された AI の危険に対する最適な対処をサポートする分類法も提供します。
さらに、AIHM フレームワークが、特定された危険の影響を許容可能なレベルまで体系的に削減することにより、電力網 AI ユースケースの全体的な品質をどのように向上させることができるかを説明します。

要約(オリジナル)

Recent advancements in the field of Artificial Intelligence (AI) establish the basis to address challenging tasks. However, with the integration of AI, new risks arise. Therefore, to benefit from its advantages, it is essential to adequately handle the risks associated with AI. Existing risk management processes in related fields, such as software systems, need to sufficiently consider the specifics of AI. A key challenge is to systematically and transparently identify and address AI risks’ root causes – also called AI hazards. This paper introduces the AI Hazard Management (AIHM) framework, which provides a structured process to systematically identify, assess, and treat AI hazards. The proposed process is conducted in parallel with the development to ensure that any AI hazard is captured at the earliest possible stage of the AI system’s life cycle. In addition, to ensure the AI system’s auditability, the proposed framework systematically documents evidence that the potential impact of identified AI hazards could be reduced to a tolerable level. The framework builds upon an AI hazard list from a comprehensive state-of-the-art analysis. Also, we provide a taxonomy that supports the optimal treatment of the identified AI hazards. Additionally, we illustrate how the AIHM framework can increase the overall quality of a power grid AI use case by systematically reducing the impact of identified hazards to an acceptable level.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google