Variational Mixture of HyperGenerators for Learning Distributions Over Functions

要約

最近のアプローチは、暗黙的ニューラル表現 (INR) に基づいて、関数空間上の生成モデルを提案しています。
ただし、欠損データの代入などの推論タスクを処理する場合、計算コストが高くなるか、直接取り組むことはできません。
この研究では、VAMoH と呼ばれる新しい深層生成モデルを提案します。
VAMoH は、INR を使用した連続関数のモデル化機能と、変分オートエンコーダー (VAE) の推論機能を組み合わせています。
さらに、VAMoH は正規化フローを利用して事前確率を定義し、ハイパーネットワークの混合を利用してデータの対数尤度をパラメータ化します。
これにより、VAMoH に高い表現力と解釈可能性が与えられます。
画像、ボクセル、気候データなどのさまざまな種類のデータに関する実験を通じて、VAMoH が連続関数にわたる豊富な分布を効果的に学習できることを示します。
さらに、条件付き超解像度生成やインペイントなどの推論関連のタスクを、以前のアプローチと同等かそれ以上に実行できると同時に、計算​​量が少なくなります。

要約(オリジナル)

Recent approaches build on implicit neural representations (INRs) to propose generative models over function spaces. However, they are computationally costly when dealing with inference tasks, such as missing data imputation, or directly cannot tackle them. In this work, we propose a novel deep generative model, named VAMoH. VAMoH combines the capabilities of modeling continuous functions using INRs and the inference capabilities of Variational Autoencoders (VAEs). In addition, VAMoH relies on a normalizing flow to define the prior, and a mixture of hypernetworks to parametrize the data log-likelihood. This gives VAMoH a high expressive capability and interpretability. Through experiments on a diverse range of data types, such as images, voxels, and climate data, we show that VAMoH can effectively learn rich distributions over continuous functions. Furthermore, it can perform inference-related tasks, such as conditional super-resolution generation and in-painting, as well or better than previous approaches, while being less computationally demanding.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google