Is my Data in your AI Model? Membership Inference Test with Application to Face Images

要約

このペーパーでは、人工知能 (AI) モデルのトレーニング中に特定のデータが使用されたかどうかを経験的に評価することを目的とした新しいアプローチであるメンバーシップ推論テスト (MINT) を紹介します。
具体的には、監査済みモデルがトレーニング プロセス中に使用されるデータにさらされたときに現れる明確な活性化パターンを学習するように設計された 2 つの新しい MINT アーキテクチャを提案します。
最初のアーキテクチャは多層パーセプトロン (MLP) ネットワークに基づいており、2 番目のアーキテクチャは畳み込みニューラル ネットワーク (CNN) に基づいています。
提案された MINT アーキテクチャは、3 つの最先端の顔認識モデルを考慮して、難しい顔認識タスクで評価されます。
実験は、合計 2,200 万件以上の顔画像を含む 6 つの公的に利用可能なデータベースを使用して実行されました。
また、テストする AI モデルの利用可能なコンテキストに応じて、さまざまな実験シナリオが考慮されます。
私たちが提案する MINT アプローチを使用すると、最大 90% の精度という有望な結果が得られ、AI モデルが特定のデータでトレーニングされているかどうかを認識できることを示唆しています。

要約(オリジナル)

This paper introduces the Membership Inference Test (MINT), a novel approach that aims to empirically assess if specific data was used during the training of Artificial Intelligence (AI) models. Specifically, we propose two novel MINT architectures designed to learn the distinct activation patterns that emerge when an audited model is exposed to data used during its training process. The first architecture is based on a Multilayer Perceptron (MLP) network and the second one is based on Convolutional Neural Networks (CNNs). The proposed MINT architectures are evaluated on a challenging face recognition task, considering three state-of-the-art face recognition models. Experiments are carried out using six publicly available databases, comprising over 22 million face images in total. Also, different experimental scenarios are considered depending on the context available of the AI model to test. Promising results, up to 90% accuracy, are achieved using our proposed MINT approach, suggesting that it is possible to recognize if an AI model has been trained with specific data.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google