Riemannian Multinomial Logistics Regression for SPD Neural Networks

要約

対称正定 (SPD) 行列を学習するためのディープ ニューラル ネットワークは、機械学習においてますます注目を集めています。
大きな進歩にもかかわらず、既存の SPD ネットワークのほとんどは、SPD 多様体の幾何学形状を正確に捕捉する固有の分類器ではなく、近似空間上で従来のユークリッド分類器を使用しています。
双曲ニューラル ネットワーク (HNN) に触発されて、SPD ネットワークの分類層に対してリーマン多項ロジスティック回帰 (RMLR) を提案します。
ユークリッド空間から引き戻された計量に基づいてリーマン分類器を構築するための統一フレームワークを紹介し、パラメータ化された対数ユークリッド計量 (LEM) および対数コレスキー計量 (LCM) に基づくフレームワークを紹介します。
さらに、私たちのフレームワークは、既存の SPD ネットワークで最も人気のある LogEig 分類器に対する新しい固有の説明を提供します。
私たちの方法の有効性は、レーダー認識、人間の行動認識、脳波 (EEG) 分類の 3 つのアプリケーションで実証されています。
コードは https://github.com/GitZH-Chen/SPDMLR.git で入手できます。

要約(オリジナル)

Deep neural networks for learning Symmetric Positive Definite (SPD) matrices are gaining increasing attention in machine learning. Despite the significant progress, most existing SPD networks use traditional Euclidean classifiers on an approximated space rather than intrinsic classifiers that accurately capture the geometry of SPD manifolds. Inspired by Hyperbolic Neural Networks (HNNs), we propose Riemannian Multinomial Logistics Regression (RMLR) for the classification layers in SPD networks. We introduce a unified framework for building Riemannian classifiers under the metrics pulled back from the Euclidean space, and showcase our framework under the parameterized Log-Euclidean Metric (LEM) and Log-Cholesky Metric (LCM). Besides, our framework offers a novel intrinsic explanation for the most popular LogEig classifier in existing SPD networks. The effectiveness of our method is demonstrated in three applications: radar recognition, human action recognition, and electroencephalography (EEG) classification. The code is available at https://github.com/GitZH-Chen/SPDMLR.git.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google