Driving-Video Dehazing with Non-Aligned Regularization for Safety Assistance

要約

実際の運転ビデオのかすみ除去は、特に予測できない気象条件による動的な運転シナリオにおいて、効果的なモデル トレーニングのために正確に位置合わせされたかすんだビデオと鮮明なビデオのペアを取得することが本質的に難しいため、重大な課題を引き起こします。
この論文では、非整列正則化戦略を通じてこの課題に対処する先駆的なアプローチを提案します。
私たちの中心的なコンセプトには、ビデオかすみ除去ネットワークを監視するための参照として機能する、かすみフレームに厳密に一致する鮮明なフレームを識別することが含まれます。
私たちのアプローチは、リファレンス マッチングとビデオのかすみ除去という 2 つの主要なコンポーネントで構成されています。
まず、アダプティブ スライディング ウィンドウを利用して鮮明なビデオから高品質の参照フレームを照合する、非整列参照フレーム マッチング モジュールを導入します。
ビデオかすみ除去には、フローガイド型コサイン アテンション サンプラーと変形可能なコサイン アテンション フュージョン モジュールが組み込まれており、空間マルチフレーム アライメントを強化し、改善された情報を融合します。
私たちのアプローチを検証するために、田舎や都市部のさまざまな道路環境で GoPro カメラで簡単にキャプチャされた GoProHazy データセットを収集します。
広範な実験により、実際の運転ビデオのかすみ除去という困難なタスクにおいて、提案された方法が現在の最先端の方法よりも優れていることが実証されました。
プロジェクトページ。

要約(オリジナル)

Real driving-video dehazing poses a significant challenge due to the inherent difficulty in acquiring precisely aligned hazy/clear video pairs for effective model training, especially in dynamic driving scenarios with unpredictable weather conditions. In this paper, we propose a pioneering approach that addresses this challenge through a nonaligned regularization strategy. Our core concept involves identifying clear frames that closely match hazy frames, serving as references to supervise a video dehazing network. Our approach comprises two key components: reference matching and video dehazing. Firstly, we introduce a non-aligned reference frame matching module, leveraging an adaptive sliding window to match high-quality reference frames from clear videos. Video dehazing incorporates flow-guided cosine attention sampler and deformable cosine attention fusion modules to enhance spatial multiframe alignment and fuse their improved information. To validate our approach, we collect a GoProHazy dataset captured effortlessly with GoPro cameras in diverse rural and urban road environments. Extensive experiments demonstrate the superiority of the proposed method over current state-of-the-art methods in the challenging task of real driving-video dehazing. Project page.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google