Connective Reconstruction-based Novelty Detection

要約

分布外サンプルの検出は、コンピューター ビジョンの実際のアプリケーションにとって重要なタスクの 1 つです。
深層学習の進歩により、説明のつかないサンプルを含む実世界のデータを分析できるようになり、分布外のインスタンスを以前よりも検出する必要性が高まっています。
GANベースのアプローチは、分布フィッティングを実行できるため、この問題に対処するために広く使用されています。
ただし、トレーニングの不安定性とモードの崩壊が伴います。
GANモデルの制限を補うために複雑さを追加することを避け、GANモデルを凌駕する、シンプルで効率的な再構成ベースの方法を提案します。
再構成エラーまたは生成されたサンプルのみを利用する以前の再構成ベースの作品とは異なり、提案された方法は、それらの両方を検出タスクに同時に組み込みます。
「Connective Novelty Detection」と呼ばれるモデルには、オートエンコーダーとバイナリ分類子の 2 つのサブネットワークがあります。
オートエンコーダーは、それらを再構築することにより、ポジティブ クラスの表現を学習します。
次に、モデルは、実際のサンプルと生成されたサンプルを使用して、負の例と接続された正の例を作成します。
負のインスタンスは実際のデータを操作することによって生成されるため、それらの分布は正のクラスに近くなり、分類子のより正確な境界が達成されます。
再構成エラーに対する検出のロバスト性を高めるために、実際のサンプルと生成されたサンプルを組み合わせて、接続されたポジティブ サンプルが作成されます。
最後に、接続された正例と負例を使用してバイナリ分類器をトレーニングします。
MNIST および Caltech-256 データセットでは、最先端の方法に比べてノベルティ検出が大幅に改善されていることを示しています。

要約(オリジナル)

Detection of out-of-distribution samples is one of the critical tasks for real-world applications of computer vision. The advancement of deep learning has enabled us to analyze real-world data which contain unexplained samples, accentuating the need to detect out-of-distribution instances more than before. GAN-based approaches have been widely used to address this problem due to their ability to perform distribution fitting; however, they are accompanied by training instability and mode collapse. We propose a simple yet efficient reconstruction-based method that avoids adding complexities to compensate for the limitations of GAN models while outperforming them. Unlike previous reconstruction-based works that only utilize reconstruction error or generated samples, our proposed method simultaneously incorporates both of them in the detection task. Our model, which we call ‘Connective Novelty Detection’ has two subnetworks, an autoencoder, and a binary classifier. The autoencoder learns the representation of the positive class by reconstructing them. Then, the model creates negative and connected positive examples using real and generated samples. Negative instances are generated via manipulating the real data, so their distribution is close to the positive class to achieve a more accurate boundary for the classifier. To boost the robustness of the detection to reconstruction error, connected positive samples are created by combining the real and generated samples. Finally, the binary classifier is trained using connected positive and negative examples. We demonstrate a considerable improvement in novelty detection over state-of-the-art methods on MNIST and Caltech-256 datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google