Membership Inference Attack for Beluga Whales Discrimination

要約

特定の野生生物個体群の成長と進化を効率的に監視するために、動物生態学で取り組むべき主な基本的な課題の 1 つは、以前に遭遇した個体の再識別だけでなく、既知の個体と未知の個体の識別 (いわゆる
これは、再識別の前に実現するための最初のステップです。
特に、この作業では、ベルーガクジラのデジタル写真内の識別に関心があります。シロイルカは、独特の特徴がないために識別が最も困難な海洋種の1つであることが知られています。
この問題に取り組むために、メンバーシップ推論攻撃 (MIA) の使用に基づく新しいアプローチを提案します。MIA は通常、特定の機械学習モデルのリリースに関連するプライバシー リスクを評価するために使用されます。
より正確には、MIA の最先端のアプローチを使用して、既知の個人と未知の個人を区別する問題を効率的に解決できることを示します。
クジラに関連する 3 つのベンチマーク データセット、2 つの異なるニューラル ネットワーク アーキテクチャ、および 3 つの MIA に関する広範な実験は、このアプローチのパフォーマンスを明確に示しています。
さらに、異なる MIA の出力を組み合わせて、誤検出率を減らしながら攻撃の精度を高める、アンサンブル MIA という新しい MIA 戦略も設計しました。
全体として、私たちの主な目的の 1 つは、プライバシー攻撃に関する研究も、動物生態学で遭遇する実際的な課題に対処するのを助けることによって、「永久に」活用できることを示すことです。

要約(オリジナル)

To efficiently monitor the growth and evolution of a particular wildlife population, one of the main fundamental challenges to address in animal ecology is the re-identification of individuals that have been previously encountered but also the discrimination between known and unknown individuals (the so-called ‘open-set problem’), which is the first step to realize before re-identification. In particular, in this work, we are interested in the discrimination within digital photos of beluga whales, which are known to be among the most challenging marine species to discriminate due to their lack of distinctive features. To tackle this problem, we propose a novel approach based on the use of Membership Inference Attacks (MIAs), which are normally used to assess the privacy risks associated with releasing a particular machine learning model. More precisely, we demonstrate that the problem of discriminating between known and unknown individuals can be solved efficiently using state-of-the-art approaches for MIAs. Extensive experiments on three benchmark datasets related to whales, two different neural network architectures, and three MIA clearly demonstrate the performance of the approach. In addition, we have also designed a novel MIA strategy that we coined as ensemble MIA, which combines the outputs of different MIAs to increase the attack accuracy while diminishing the false positive rate. Overall, one of our main objectives is also to show that the research on privacy attacks can also be leveraged ‘for good’ by helping to address practical challenges encountered in animal ecology.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google