Matching-based Data Valuation for Generative Model

要約

機械学習においてデータ評価は、モデルの透明性を高め、データの特性を保護するのに役立つため、非常に重要である。既存のデータ評価手法は、主に識別モデルに焦点を当てており、最近注目されている深層生成モデルは無視されています。識別モデルと同様に、深層生成モデルにおいてもデータの貢献度を評価することが急務となっています。しかし、これまでのデータ評価アプローチは、主に識別モデルの性能指標に依存しており、モデルの再トレーニングが必要でした。その結果、生成逆説ネットワークや拡散モデルなどの最近の深層生成モデルに直接かつ効率的に適用することができない。このギャップを埋めるために、我々は生成モデルにおけるデータ評価問題を類似性マッチングの観点から定式化する。具体的には、生成タスクのデータ評価を提供するために設計された、あらゆる生成モデルに対する最初のモデル非依存的アプローチであるGenerative Model Valuator (GMValuator) を紹介する。我々は、提案手法の有効性を実証するために、広範な実験を行った。知る限りでは、GMValuatorは、深い生成モデルに対して、トレーニング不要のポストホックデータ評価戦略を提供する最初の作品である。

要約(オリジナル)

Data valuation is critical in machine learning, as it helps enhance model transparency and protect data properties. Existing data valuation methods have primarily focused on discriminative models, neglecting deep generative models that have recently gained considerable attention. Similar to discriminative models, there is an urgent need to assess data contributions in deep generative models as well. However, previous data valuation approaches mainly relied on discriminative model performance metrics and required model retraining. Consequently, they cannot be applied directly and efficiently to recent deep generative models, such as generative adversarial networks and diffusion models, in practice. To bridge this gap, we formulate the data valuation problem in generative models from a similarity-matching perspective. Specifically, we introduce Generative Model Valuator (GMValuator), the first model-agnostic approach for any generative models, designed to provide data valuation for generation tasks. We have conducted extensive experiments to demonstrate the effectiveness of the proposed method. To the best of their knowledge, GMValuator is the first work that offers a training-free, post-hoc data valuation strategy for deep generative models.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL