Schur’s Positive-Definite Network: Deep Learning in the SPD cone with structure

要約

対称陽性 – 決定（SPD）コーンの推定マトリックスは、コンピュータービジョンからグラフ学習まで、多くのアプリケーションで興味深いものです。
さまざまな凸最適化ベースの推定器が存在しますが、モデルベースのアプローチにより、表現力が限られたままです。
深い学習の成功は、学習ベースのアプローチの使用を動機付け、SPDマトリックスをデータ駆動型の方法でニューラルネットワークと推定します。
ただし、SPD学習のための効果的なニューラルアーキテクチャの設計は、特に要素ごとのスパースなどの追加の構造的制約が必要な場合、困難です。
現在のアプローチは、出力がすべての望ましいプロパティを満たしたり、表現力を欠いていることを保証しません。
この論文では、SPD出力を保証し、追加の構造的制約をサポートする斬新で一般的な学習モジュールであるSpodnetを紹介します。
特に、SPDとスパースマトリックスを共同で学習するという挑戦的なタスクを解決します。
私たちの実験は、そのようなアプリケーションのSpodNet層の汎用性と関連性を示しています。

要約(オリジナル)

Estimating matrices in the symmetric positive-definite (SPD) cone is of interest for many applications ranging from computer vision to graph learning. While there exist various convex optimization-based estimators, they remain limited in expressivity due to their model-based approach. The success of deep learning motivates the use of learning-based approaches to estimate SPD matrices with neural networks in a data-driven fashion. However, designing effective neural architectures for SPD learning is challenging, particularly when the task requires additional structural constraints, such as element-wise sparsity. Current approaches either do not ensure that the output meets all desired properties or lack expressivity. In this paper, we introduce SpodNet, a novel and generic learning module that guarantees SPD outputs and supports additional structural constraints. Notably, it solves the challenging task of learning jointly SPD and sparse matrices. Our experiments illustrate the versatility and relevance of SpodNet layers for such applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google