Structure Learning with Adaptive Random Neighborhood Informed MCMC

要約

この論文では、観測データの下での構造学習の問題に対する完全ベイジアン アプローチのための新しい MCMC サンプラー PARNI-DAG を紹介します。
因果的十分性の仮定の下、このアルゴリズムでは有向非巡回グラフ (DAG) 上の事後分布から直接近似サンプリングが可能です。
PARNI-DAG は、局所的な情報に基づいた適応型ランダム近傍提案を通じて DAG の効率的なサンプリングを実行し、結果として混合特性が向上します。
さらに、ノード数に応じてより優れたスケーラビリティを確保するために、制約ベースまたはスコアベースのアルゴリズムを通じて導出されたスケルトン グラフを活用するサンプラーのパラメーターの事前調整手順と PARNI-DAG を組み合わせます。
これらの新しい機能のおかげで、PARNI-DAG は高確率領域に迅速に収束し、高次元設定でノード間に高い相関がある場合でもローカル モードに陥る可能性が低くなります。
PARNI-DAG の技術的新しさを導入した後、さまざまな実験で DAG 構造を学習する際の混合効率と精度を実証します。

要約(オリジナル)

In this paper, we introduce a novel MCMC sampler, PARNI-DAG, for a fully-Bayesian approach to the problem of structure learning under observational data. Under the assumption of causal sufficiency, the algorithm allows for approximate sampling directly from the posterior distribution on Directed Acyclic Graphs (DAGs). PARNI-DAG performs efficient sampling of DAGs via locally informed, adaptive random neighborhood proposal that results in better mixing properties. In addition, to ensure better scalability with the number of nodes, we couple PARNI-DAG with a pre-tuning procedure of the sampler’s parameters that exploits a skeleton graph derived through some constraint-based or scoring-based algorithms. Thanks to these novel features, PARNI-DAG quickly converges to high-probability regions and is less likely to get stuck in local modes in the presence of high correlation between nodes in high-dimensional settings. After introducing the technical novelties in PARNI-DAG, we empirically demonstrate its mixing efficiency and accuracy in learning DAG structures on a variety of experiments.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google