Generative Modeling on Lie Groups via Euclidean Generalized Score Matching

要約

我々は、ユークリッドスコアベースの拡散過程をリー群上の生成的モデリングに拡張する。一般化されたスコアマッチングの形式論を通して、我々のアプローチはリー代数表現の直接和として分解するランジュヴィン・ダイナミクスをもたらし、ユークリッド空間で動作しながらリー群上の生成過程を可能にする。群軌道を切り出すことによって学習可能な関数の空間を制限する等変量モデルとは異なり、我々の方法は、任意の（非アベリアン）リー群上の任意のターゲット分布をモデル化することができる。標準的なスコアマッチングは、リー群が並進群である場合に、我々のフレームワークの特別なケースとして現れる。我々の一般化された生成過程は、ここで初めて導入された新しいクラスの対になった確率微分方程式（SDE）の解として生じることを証明する。SO(3)を用いた分子コンフォマー生成や、分子ドッキングのためのリガンド特異的な大域的SE(3)変換のモデリングなど、実世界での応用において、本アプローチが有効であることを、様々なタイプのデータに対する実験を通して検証し、群自体のリーマン拡散と比較して改善されることを示す。また、リー群を適切に選択することで、軌跡空間の有効次元を小さくして学習効率を高め、複雑なデータ分布間の遷移をモデル化できることを示す。さらに、フローマッチングへの拡張方法を導出することで、我々のアプローチの普遍性を示す。

要約(オリジナル)

We extend Euclidean score-based diffusion processes to generative modeling on Lie groups. Through the formalism of Generalized Score Matching, our approach yields a Langevin dynamics which decomposes as a direct sum of Lie algebra representations, enabling generative processes on Lie groups while operating in Euclidean space. Unlike equivariant models, which restrict the space of learnable functions by quotienting out group orbits, our method can model any target distribution on any (non-Abelian) Lie group. Standard score matching emerges as a special case of our framework when the Lie group is the translation group. We prove that our generalized generative processes arise as solutions to a new class of paired stochastic differential equations (SDEs), introduced here for the first time. We validate our approach through experiments on diverse data types, demonstrating its effectiveness in real-world applications such as SO(3)-guided molecular conformer generation and modeling ligand-specific global SE(3) transformations for molecular docking, showing improvement in comparison to Riemannian diffusion on the group itself. We show that an appropriate choice of Lie group enhances learning efficiency by reducing the effective dimensionality of the trajectory space and enables the modeling of transitions between complex data distributions. Additionally, we demonstrate the universality of our approach by deriving how it extends to flow matching.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL