Design of a Quality Management System based on the EU Artificial Intelligence Act

要約

EU AI 法は、高リスク AI システムのプロバイダーと導入者が品質管理システム (QMS) を確立することを義務付けています。
他の基準の中でも、QMS は AI システムの設計と品質を検証および文書化し、すべての高リスク AI システム要件の適切な実装を監視するのに役立ちます。
現在の研究では、EU AI 法を施行するための実用的な解決策が検討されていることはほとんどありません。
代わりに、理論的な概念に焦点を当てる傾向があります。
その結果、人間が AI システムを積極的にチェックして文書化し、リスクの高いすべての AI システム要件の実装を調整するのに役立つツールに、より注意を払う必要があります。
したがって、このペーパーでは、マイクロサービス Software as a Service Web アプリケーションとしての QMS の新しい設計コンセプトとプロトタイプを紹介します。
検証と文書化のために AI システムに直接接続し、さまざまなサブサービスのオーケストレーションと統合を可能にします。これらのサブサービスは個別に設計でき、それぞれが特定の高リスク AI システム要件に合わせて調整されます。
プロトタイプの最初のバージョンは、AI システムの一例として Phi-3-mini-128k-instruct LLM に接続し、リスク管理システムとデータ管理システムを統合します。
プロトタイプは、実装された要件の定性評価、GPU メモリとパフォーマンスの分析、IT、AI、法律の専門家による評価を通じて評価されます。

要約(オリジナル)

The EU AI Act mandates that providers and deployers of high-risk AI systems establish a quality management system (QMS). Among other criteria, a QMS shall help verify and document the AI system design and quality and monitor the proper implementation of all high-risk AI system requirements. Current research rarely explores practical solutions for implementing the EU AI Act. Instead, it tends to focus on theoretical concepts. As a result, more attention must be paid to tools that help humans actively check and document AI systems and orchestrate the implementation of all high-risk AI system requirements. Therefore, this paper introduces a new design concept and prototype for a QMS as a microservice Software as a Service web application. It connects directly to the AI system for verification and documentation and enables the orchestration and integration of various sub-services, which can be individually designed, each tailored to specific high-risk AI system requirements. The first version of the prototype connects to the Phi-3-mini-128k-instruct LLM as an example of an AI system and integrates a risk management system and a data management system. The prototype is evaluated through a qualitative assessment of the implemented requirements, a GPU memory and performance analysis, and an evaluation with IT, AI, and legal experts.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google