Kernel-Based Differentiable Learning of Non-Parametric Directed Acyclic Graphical Models

要約

因果関係の発見は、因果モデルをエンコードする有向非巡回グラフ (DAG) を学習することに相当します。
このモデル選択の問題は、特にノンパラメトリック因果モデルを扱う場合、組み合わせ検索空間が大きいため、困難になる可能性があります。
最近の研究では、グラフの非周期性を保証する制約を使用して、因果関係の発見を連続最適化問題として再定式化することにより、組み合わせ探索を回避しようとしています。
ノンパラメトリック設定では、既存のアプローチは通常、ノード間の関係の有限次元近似に依存しており、その結果、滑らかな非周期性制約を伴うスコアベースの連続最適化問題が発生します。
この研究では、再現カーネル ヒルベルト空間 (RKHS) を利用し、偏導関数に基づく一般的なスパース誘発正則化項を適用することにより、代替近似方法を開発します。
この枠組みの中で、拡張された RKHS 表現定理を導入します。
非周期性を強制するために、非周期性制約の対数行列式定式化を提唱し、その安定性を示します。
最後に、シミュレーションと例示的なデータ分析を通じて、提案した RKHS-DAGMA 手順のパフォーマンスを評価します。

要約(オリジナル)

Causal discovery amounts to learning a directed acyclic graph (DAG) that encodes a causal model. This model selection problem can be challenging due to its large combinatorial search space, particularly when dealing with non-parametric causal models. Recent research has sought to bypass the combinatorial search by reformulating causal discovery as a continuous optimization problem, employing constraints that ensure the acyclicity of the graph. In non-parametric settings, existing approaches typically rely on finite-dimensional approximations of the relationships between nodes, resulting in a score-based continuous optimization problem with a smooth acyclicity constraint. In this work, we develop an alternative approximation method by utilizing reproducing kernel Hilbert spaces (RKHS) and applying general sparsity-inducing regularization terms based on partial derivatives. Within this framework, we introduce an extended RKHS representer theorem. To enforce acyclicity, we advocate the log-determinant formulation of the acyclicity constraint and show its stability. Finally, we assess the performance of our proposed RKHS-DAGMA procedure through simulations and illustrative data analyses.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google