Be-Your-Outpainter: Mastering Video Outpainting through Input-Specific Adaptation

要約

ビデオのアウトペイントは、フレーム間およびフレーム内の一貫性を維持しながら、入力ビデオのビューポートの外でビデオ コンテンツを生成することを目的とした、挑戦的なタスクです。
既存の方法は、生成の品質や柔軟性の点で不十分です。
MOTIA Mastering Video Outpainting Through Input-Specific Adaptation を導入します。これは、ソース ビデオの固有のデータ固有のパターンと、効果的なアウトペインティングのために画像/ビデオ生成事前の両方を活用する拡散ベースのパイプラインです。
MOTIA は、入力固有の適応とパターン認識のアウトペインティングという 2 つの主要なフェーズで構成されます。
入力固有の適応フェーズでは、シングルショット ソース ビデオに対して効率的かつ効果的な擬似アウトペイント学習を実行します。
このプロセスにより、モデルがソース ビデオ内のパターンを識別して学習することが促進されるとともに、標準の生成プロセスとアウトペイントの間のギャップを埋めることができます。
次のフェーズであるパターン認識アウトペイントは、これらの学習されたパターンを一般化して、アウトペイントの結果を生成することに専念します。
拡散モデルの事前生成とソース ビデオから取得したビデオ パターンをより効果的に活用するために、空間認識挿入やノイズ トラベルを含む追加の戦略が提案されています。
広範な評価により、MOTIA の優位性が強調され、広く認識されているベンチマークにおいて既存の最先端の手法を上回っています。
特に、これらの進歩は、タスク固有の広範な調整を必要とせずに達成されます。

要約(オリジナル)

Video outpainting is a challenging task, aiming at generating video content outside the viewport of the input video while maintaining inter-frame and intra-frame consistency. Existing methods fall short in either generation quality or flexibility. We introduce MOTIA Mastering Video Outpainting Through Input-Specific Adaptation, a diffusion-based pipeline that leverages both the intrinsic data-specific patterns of the source video and the image/video generative prior for effective outpainting. MOTIA comprises two main phases: input-specific adaptation and pattern-aware outpainting. The input-specific adaptation phase involves conducting efficient and effective pseudo outpainting learning on the single-shot source video. This process encourages the model to identify and learn patterns within the source video, as well as bridging the gap between standard generative processes and outpainting. The subsequent phase, pattern-aware outpainting, is dedicated to the generalization of these learned patterns to generate outpainting outcomes. Additional strategies including spatial-aware insertion and noise travel are proposed to better leverage the diffusion model’s generative prior and the acquired video patterns from source videos. Extensive evaluations underscore MOTIA’s superiority, outperforming existing state-of-the-art methods in widely recognized benchmarks. Notably, these advancements are achieved without necessitating extensive, task-specific tuning.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google