Hyperbolic Graph Diffusion Model

要約

拡散生成モデル（Diffusion Generative Model：DM）は、画像やグラフの生成において有望な成果を上げている。しかし、ソーシャルネットワーク、分子グラフ、トラフィックグラフなどの実世界のグラフは、一般に非ユークリッドトポロジや隠れた階層を共有している。例えば、グラフの次数分布はほとんどがべき乗分布である。現在の潜在拡散モデルは、ユークリッド空間に階層データを埋め込むが、これは歪みをもたらし、分布のモデル化を妨げる。その代わりに、双曲空間は指数関数的な成長特性を持つため、複雑な階層構造を捉えるのに適していることがわかっている。拡散モデルのデータ生成能力と、潜在的な階層分布を抽出する双曲埋め込み能力を同時に利用するために、我々は双曲グラフ拡散モデル（HGDM）と呼ばれる新しいグラフ生成法を提案する。HGDMは、エッジ情報を組み込んだ双曲潜在ノード空間を構築することで、重要なグラフ構造分布を捉える。広範な実験により、HGDMは、一般的なグラフと分子生成ベンチマークでより良い性能を達成し、高度に階層的な構造を持つグラフ生成の品質が$48%改善された。

要約(オリジナル)

Diffusion generative models (DMs) have achieved promising results in image and graph generation. However, real-world graphs, such as social networks, molecular graphs, and traffic graphs, generally share non-Euclidean topologies and hidden hierarchies. For example, the degree distributions of graphs are mostly power-law distributions. The current latent diffusion model embeds the hierarchical data in a Euclidean space, which leads to distortions and interferes with modeling the distribution. Instead, hyperbolic space has been found to be more suitable for capturing complex hierarchical structures due to its exponential growth property. In order to simultaneously utilize the data generation capabilities of diffusion models and the ability of hyperbolic embeddings to extract latent hierarchical distributions, we propose a novel graph generation method called, Hyperbolic Graph Diffusion Model (HGDM), which consists of an auto-encoder to encode nodes into successive hyperbolic embeddings, and a DM that operates in the hyperbolic latent space. HGDM captures the crucial graph structure distributions by constructing a hyperbolic potential node space that incorporates edge information. Extensive experiments show that HGDM achieves better performance in generic graph and molecule generation benchmarks, with a $48\%$ improvement in the quality of graph generation with highly hierarchical structures.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL