Deep Equilibrium Models for Video Snapshot Compressive Imaging

要約

高次元 (HD) データを効率的にキャプチャするスナップショット圧縮イメージング (SCI) システムの能力は、圧縮されたノイズの多い測定値から HD 信号を回復するという逆の問題を引き起こしました。
最近の深層学習の進歩により、再構成アルゴリズムが急速に発展し、それを解決できるようになりましたが、正確で安定した回復という基本的な問題は残っています。
この目的のために、ビデオ SCI の深い平衡モデル (DEQ) を提案し、理論的に健全な方法でデータ駆動型の正則化と安定した収束を融合します。
各平衡モデルは暗黙的に非拡張演算子を学習し、不動点を分析的に計算するため、トレーニングとテストで一定のメモリ要件のみで、無制限の反復ステップと無限のネットワーク深度が可能になります。
具体的には、ビデオ SCI 再構築のための 2 つの既存のモデル、つまりリカレント ニューラル ネットワーク (RNN) とプラグ アンド プレイ (PnP) アルゴリズムに DEQ を適用する方法を示します。
さまざまなデータセットと実際のデータについて、結果の定量的評価と定性的評価の両方で、提案された方法の有効性と安定性が実証されています。
コードとモデルは https://github.com/IndigoPurple/DEQSCI で入手できます。

要約(オリジナル)

The ability of snapshot compressive imaging (SCI) systems to efficiently capture high-dimensional (HD) data has led to an inverse problem, which consists of recovering the HD signal from the compressed and noisy measurement. While reconstruction algorithms grow fast to solve it with the recent advances of deep learning, the fundamental issue of accurate and stable recovery remains. To this end, we propose deep equilibrium models (DEQ) for video SCI, fusing data-driven regularization and stable convergence in a theoretically sound manner. Each equilibrium model implicitly learns a nonexpansive operator and analytically computes the fixed point, thus enabling unlimited iterative steps and infinite network depth with only a constant memory requirement in training and testing. Specifically, we demonstrate how DEQ can be applied to two existing models for video SCI reconstruction: recurrent neural networks (RNN) and Plug-and-Play (PnP) algorithms. On a variety of datasets and real data, both quantitative and qualitative evaluations of our results demonstrate the effectiveness and stability of our proposed method. The code and models are available at: https://github.com/IndigoPurple/DEQSCI .

arxiv情報

提供元, 利用サービス

arxiv.jp, Google