Comprehensive Examination of Unrolled Networks for Linear Inverse Problems

要約

アンロール ネットワークは、さまざまなコンピューター ビジョンやイメージング タスクで普及しています。
これらは、特定のコンピュータ ビジョンや計算によるイメージングのタスクを解決する際に顕著な有効性を示していますが、他のアプリケーションへの適応にはかなりの課題が存在します。
これは主に、新しいアプリケーションに取り組む実務者がナビゲートする必要がある多数の設計上の決定が原因であり、それぞれの決定がネットワーク全体のパフォーマンスに影響を与える可能性があります。
これらの決定には、最適化アルゴリズムの選択、損失関数の定義、畳み込み層の数の決定などが含まれます。
問題をさらに悪化させるのは、各設計の選択を評価するには、ニューラル ネットワークのトレーニング、微調整、パフォーマンスの最適化に時間のかかるシミュレーションが必要になることです。
その結果、複数のオプションを検討して最適な構成を特定するプロセスは、時間がかかり、計算量も多くなります。
このペーパーの主な目的は、(1) アンロール ネットワークで使用されるいくつかのアイデアと方法論を統合して、ユーザーが選択しなければならない設計の選択肢の数を減らすこと、(2) 包括的なアブレーション研究を報告して、それぞれの影響を議論することです。
アンロール ネットワークの設計に含まれる選択肢を示し、調査結果に基づいた実用的な推奨事項を示します。
この研究が、科学者やエンジニアがアプリケーション向けにアンロール ネットワークを設計し、ネットワーク内の問題を効率的に診断するのに役立つと期待しています。

要約(オリジナル)

Unrolled networks have become prevalent in various computer vision and imaging tasks. Although they have demonstrated remarkable efficacy in solving specific computer vision and computational imaging tasks, their adaptation to other applications presents considerable challenges. This is primarily due to the multitude of design decisions that practitioners working on new applications must navigate, each potentially affecting the network’s overall performance. These decisions include selecting the optimization algorithm, defining the loss function, and determining the number of convolutional layers, among others. Compounding the issue, evaluating each design choice requires time-consuming simulations to train, fine-tune the neural network, and optimize for its performance. As a result, the process of exploring multiple options and identifying the optimal configuration becomes time-consuming and computationally demanding. The main objectives of this paper are (1) to unify some ideas and methodologies used in unrolled networks to reduce the number of design choices a user has to make, and (2) to report a comprehensive ablation study to discuss the impact of each of the choices involved in designing unrolled networks and present practical recommendations based on our findings. We anticipate that this study will help scientists and engineers design unrolled networks for their applications and diagnose problems within their networks efficiently.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google