Symmetry-Aware Generative Modeling through Learned Canonicalization

要約

対称密度の生成モデリングは、創薬から物理シミュレーションまで、科学のためのAIにおいて様々な応用がある。不変密度に対する既存の生成モデリングパラダイムは、不変事前分布と等変量生成過程を組み合わせたものである。しかし、この手法は必要ではなく、等変量ネットワークの限界に起因するいくつかの欠点がある。その代わりに、我々は密度の学習されたスライスをモデル化することを提案する。これを達成するために、学習サンプルを正準ポーズにマップする群等変量正準化ネットワークを学習し、これらの正準化サンプルに対して非等変量生成モデルを学習する。このアイデアを拡散モデルの文脈で実装する。分子モデリングに関する我々の予備的な実験結果は有望であり、サンプル品質の向上と推論時間の短縮を実証している。

要約(オリジナル)

Generative modeling of symmetric densities has a range of applications in AI for science, from drug discovery to physics simulations. The existing generative modeling paradigm for invariant densities combines an invariant prior with an equivariant generative process. However, we observe that this technique is not necessary and has several drawbacks resulting from the limitations of equivariant networks. Instead, we propose to model a learned slice of the density so that only one representative element per orbit is learned. To accomplish this, we learn a group-equivariant canonicalization network that maps training samples to a canonical pose and train a non-equivariant generative model over these canonicalized samples. We implement this idea in the context of diffusion models. Our preliminary experimental results on molecular modeling are promising, demonstrating improved sample quality and faster inference time.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL