A Unified Framework for Probabilistic Verification of AI Systems via Weighted Model Integration

要約

AI システムの確率的形式検証 (PFV) はまだ初期段階にあります。
これまでのところ、アプローチはモデルやプロパティの特定のクラスに対するアドホック アルゴリズムに限定されてきました。
私たちは、重み付けモデル統合 (WMI) に基づいた AI システムの PFV のための統一フレームワークを提案します。これにより、問題を非常に一般的な用語で組み立てることができます。
重要なのは、この削減により、強力な分布仮定を行うことなく、公平性、堅牢性、単調性などの多くの関心のある特性を、広範囲の機械学習モデルにわたって検証できるようになることです。
単一の既製 WMI ソルバーを使用して複数の検証タスクを解決することでアプローチの汎用性をサポートし、この有望なフレームワークに関連するスケーラビリティの課題と研究の方向性について議論します。

要約(オリジナル)

The probabilistic formal verification (PFV) of AI systems is in its infancy. So far, approaches have been limited to ad-hoc algorithms for specific classes of models and/or properties. We propose a unifying framework for the PFV of AI systems based onWeighted Model Integration (WMI), which allows to frame the problem in very general terms. Crucially, this reduction enables the verification of many properties of interest, like fairness, robustness or monotonicity, over a wide range of machine learning models, without making strong distributional assumptions. We support the generality of the approach by solving multiple verification tasks with a single, off-the-shelf WMI solver, then discuss the scalability challenges and research directions related to this promising framework.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google