Rolling Shutter Correction with Intermediate Distortion Flow Estimation

要約

本稿では、グローバルシャッター(GS)からRSへの歪みの流れを直接推定することにより、ローリングシャッター(RS)歪み画像を補正することを提案する。
既存の手法では通常、RSからGSへの無歪フローを利用して補正を行っています。
最初に連続した RS フレームからのフローを予測し、その後、時間依存のスケーリング係数を使用して、RS フレームから基礎となる GS 画像への変位フィールドとしてフローを再スケーリングします。
これに続いて、RS 対応の順方向ワーピングを使用して、RS 画像を対応する GS 画像に変換します。
それにもかかわらず、この戦略には 2 つの欠点がありがちです。
第 1 に、複雑な非線形運動の性質により、歪みのない流れの推定は、単に流れを線形にスケーリングするだけでは不正確になります。
第 2 に、RS を意識したフォワードワーピングでは、避けられないアーティファクトが発生することがよくあります。
これらの制限に対処するために、歪みフローを直接推定し、逆方向ワーピング操作で RS 画像を修正する新しいフレームワークを導入します。
より具体的には、最初に、初期歪みフローと GS 特徴を一緒に推定するためのグローバル相関ベースのフロー アテンション メカニズムを提案します。その後、これらは次の粗いから細かいデコーダ層によって洗練されます。
さらに、不正確な流量推定の問題をさらに軽減するために、多重歪み流量予測戦略が統合されています。
実験結果は、提案された方法の有効性を検証し、高効率を維持しながらさまざまなベンチマークで最先端のアプローチを上回るパフォーマンスを示します。
プロジェクトは \url{https://github.com/ljzycmd/DFRSC} で入手できます。

要約(オリジナル)

This paper proposes to correct the rolling shutter (RS) distorted images by estimating the distortion flow from the global shutter (GS) to RS directly. Existing methods usually perform correction using the undistortion flow from the RS to GS. They initially predict the flow from consecutive RS frames, subsequently rescaling it as the displacement fields from the RS frame to the underlying GS image using time-dependent scaling factors. Following this, RS-aware forward warping is employed to convert the RS image into its GS counterpart. Nevertheless, this strategy is prone to two shortcomings. First, the undistortion flow estimation is rendered inaccurate by merely linear scaling the flow, due to the complex non-linear motion nature. Second, RS-aware forward warping often results in unavoidable artifacts. To address these limitations, we introduce a new framework that directly estimates the distortion flow and rectifies the RS image with the backward warping operation. More specifically, we first propose a global correlation-based flow attention mechanism to estimate the initial distortion flow and GS feature jointly, which are then refined by the following coarse-to-fine decoder layers. Additionally, a multi-distortion flow prediction strategy is integrated to mitigate the issue of inaccurate flow estimation further. Experimental results validate the effectiveness of the proposed method, which outperforms state-of-the-art approaches on various benchmarks while maintaining high efficiency. The project is available at \url{https://github.com/ljzycmd/DFRSC}.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google