Two-stage Denoising Diffusion Model for Source Localization in Graph Inverse Problems

要約

TITLE – グラフ逆問題におけるソースローカリゼーションのための2段階デノイジング拡散モデル
ABSTRACT – ソースローカリゼーションはグラフ情報伝達の逆問題であり、広範囲の実用的なアプリケーションがある。しかし、情報伝達における固有の複雑さと不確実性は相当な課題を引き起こし、ソースローカリゼーション問題の不十分に定義された性質はこれらの課題をさらに悪化させる。最近、特に古典的な非平衡熱力学に触発された拡散モデルによる深層生成モデルが重要な進歩を遂げている。拡散モデルは逆問題の解決と高品質な再構成の生成に有力であることが証明されているが、ソースローカリゼーションに直接適用することは2つの理由から不可能である。1つは、巨大な計算コストがかかる反復的なデノイジングサンプリングのために大規模なネットワーク上で事後散布結果を計算することができないためである。 二つ目は、既存の方法では、トレーニングデータ自体が不十分に定義されたもの (多対一)であり、単純に拡散モデルを転送するだけではローカルオプティマにしかならない。これらの課題に対処するために、私たちはソースローカリゼーションデノイジング拡散モデル（SL-Diff）と呼ばれる2段階の最適化フレームワークを提案する。初期段階では、散在するソース予測を生成するための監視信号としてソースの近接度を設計し、次の段階を効率的に初期化し、収束時間を大幅に短縮して収束プロセスを調整することを目的としている。さらに、トレーニング方法に連続的な時間情報を導入することで、多対一のマッピング関係を一対一の関係に変換することができ、不十分に定義された問題を完全に解決する。最終段階では、拡散モデルを設計して不確実性を定量化し、グラフ逆問題のための拡散モデルを設計する。提案されたSL-Diffは、広範囲の実験において合理的なサンプリング時間で優れた予測結果を与える。

要約(オリジナル)

Source localization is the inverse problem of graph information dissemination and has broad practical applications. However, the inherent intricacy and uncertainty in information dissemination pose significant challenges, and the ill-posed nature of the source localization problem further exacerbates these challenges. Recently, deep generative models, particularly diffusion models inspired by classical non-equilibrium thermodynamics, have made significant progress. While diffusion models have proven to be powerful in solving inverse problems and producing high-quality reconstructions, applying them directly to the source localization is infeasible for two reasons. Firstly, it is impossible to calculate the posterior disseminated results on a large-scale network for iterative denoising sampling, which would incur enormous computational costs. Secondly, in the existing methods for this field, the training data itself are ill-posed (many-to-one); thus simply transferring the diffusion model would only lead to local optima. To address these challenges, we propose a two-stage optimization framework, the source localization denoising diffusion model (SL-Diff). In the coarse stage, we devise the source proximity degrees as the supervised signals to generate coarse-grained source predictions. This aims to efficiently initialize the next stage, significantly reducing its convergence time and calibrating the convergence process. Furthermore, the introduction of cascade temporal information in this training method transforms the many-to-one mapping relationship into a one-to-one relationship, perfectly addressing the ill-posed problem. In the fine stage, we design a diffusion model for the graph inverse problem that can quantify the uncertainty in the dissemination. The proposed SL-Diff yields excellent prediction results within a reasonable sampling time at extensive experiments.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI