Operator Sketching for Deep Unrolling Networks

要約

本研究では、オペレータスケッチを用いた効率的なディープアンローリングネットワークを設計するための新しいパラダイムを提案する。深い展開ネットワークは、現在、イメージング逆問題に対する最先端の解法である。しかし、高次元画像処理、特に3次元コーンビームX線CTや4次元MRI画像処理では、高次元の順演算子や随伴演算子を何度も計算する必要があり、メモリと計算の両面で非効率になることが一般的である。近年、確率的一次最適化の成功にヒントを得て、演算子の部分集合を用いた確率的アンローリングにより、このような制限に部分的に対処できることが分かってきた。本研究では、高次元画像空間における積の近似にスケッチ技術を用いることで、ストキャスティック・アンロールのさらなる高速化を提案する。オペレータスケッチをストキャスティックアンローリングと併用することで、最適な高速化・圧縮性能を得ることができる。X線CT画像再構成の数値実験により、我々のスケッチ型アンローリング方式の顕著な有効性を実証する。

要約(オリジナル)

In this work we propose a new paradigm for designing efficient deep unrolling networks using operator sketching. The deep unrolling networks are currently the state-of-the-art solutions for imaging inverse problems. However, for high-dimensional imaging tasks, especially the 3D cone-beam X-ray CT and 4D MRI imaging, the deep unrolling schemes typically become inefficient both in terms of memory and computation, due to the need of computing multiple times the high-dimensional forward and adjoint operators. Recently researchers have found that such limitations can be partially addressed by stochastic unrolling with subsets of operators, inspired by the success of stochastic first-order optimization. In this work, we propose a further acceleration upon stochastic unrolling, using sketching techniques to approximate products in the high-dimensional image space. The operator sketching can be jointly applied with stochastic unrolling for the best acceleration and compression performance. Our numerical experiments on X-ray CT image reconstruction demonstrate the remarkable effectiveness of our sketched unrolling schemes.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL