NoiseNCA: Noisy Seed Improves Spatio-Temporal Continuity of Neural Cellular Automata

要約

ニューラル セルラー オートマトン (NCA) はセルラー オートマトンのクラスで、更新ルールは勾配降下法を使用してトレーニングできるニューラル ネットワークによってパラメーター化されます。
この論文では、テクスチャ合成に使用される NCA モデルに焦点を当てます。更新ルールは、反応拡散システムを記述する偏微分方程式 (PDE) からインスピレーションを得ています。
NCA モデルをトレーニングするには、時空間領域が離散化され、オイラー積分を使用して偏微分方程式を数値的にシミュレートします。
ただし、トレーニングされた NCA が、対応する PDE によって記述される連続ダイナミクスを本当に学習するのか、それともトレーニングで使用される離散化を単にオーバーフィットするだけなのかは、未解決の問題のままです。
私たちは、時空の離散化が連続性に近づく限界で NCA モデルを研究します。
既存の NCA モデルは、特に「シード」とも呼ばれる初期条件の付近で、トレーニングの離散化を過剰適合する傾向があることがわかりました。
これに対処するために、初期条件として均一ノイズを利用する解決策を提案します。
我々は、広範囲の時空間粒度にわたってNCAダイナミクスの一貫性を維持する際のアプローチの有効性を実証します。
当社の改良された NCA モデルでは、パターン形成の速度と合成パターンのスケールを継続的に制御できるため、2 つの新しいテスト時のインタラクションが可能になります。
この新しい NCA 機能をインタラクティブなオンライン デモでデモンストレーションします。
私たちの研究により、NCA モデルが連続力学を学習できることが明らかになり、力学システムの観点から NCA 研究に新しい場が開かれます。

要約(オリジナル)

Neural Cellular Automata (NCA) is a class of Cellular Automata where the update rule is parameterized by a neural network that can be trained using gradient descent. In this paper, we focus on NCA models used for texture synthesis, where the update rule is inspired by partial differential equations (PDEs) describing reaction-diffusion systems. To train the NCA model, the spatio-termporal domain is discretized, and Euler integration is used to numerically simulate the PDE. However, whether a trained NCA truly learns the continuous dynamic described by the corresponding PDE or merely overfits the discretization used in training remains an open question. We study NCA models at the limit where space-time discretization approaches continuity. We find that existing NCA models tend to overfit the training discretization, especially in the proximity of the initial condition, also called ‘seed’. To address this, we propose a solution that utilizes uniform noise as the initial condition. We demonstrate the effectiveness of our approach in preserving the consistency of NCA dynamics across a wide range of spatio-temporal granularities. Our improved NCA model enables two new test-time interactions by allowing continuous control over the speed of pattern formation and the scale of the synthesized patterns. We demonstrate this new NCA feature in our interactive online demo. Our work reveals that NCA models can learn continuous dynamics and opens new venues for NCA research from a dynamical systems’ perspective.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google