Identifying Semantic Component for Robust Molecular Property Prediction

要約

グラフ ニューラル ネットワークは近年、分子特性予測のタスクにおいて大きな成功を収めていますが、分布外 (OOD) 設定下でのグラフ ニューラル ネットワークの一般化能力はまだ研究されていません。
予測のために識別表現を学習する既存の方法とは異なり、SCIと呼ばれる意味要素の識別可能性を備えた生成モデルを提案します。
我々は、この生成モデルの潜在変数を意味論的関連 (SR) コンポーネントと意味論的無関係 (SI) コンポーネントに明示的に識別できることを実証します。これは、因果メカニズムの最小限の変化特性を関与させることで、OOD の一般化の向上に貢献します。
具体的には、まず原子レベルから分子レベルまでのデータ生成プロセスを定式化します。このプロセスでは、潜在空間が SI 部分構造、SR 部分構造、および SR 原子変数に分割されます。
続いて、誤認を減らすために、SR アトム変数の最小限の変更を制限し、意味論的な潜在部分構造の正則化を追加して、拡張されたドメイン変更の下での SR 部分構造の分散を軽減します。
穏やかな仮定の下で、SR 部分構造のブロックごとの識別可能性と SR 原子変数のコメントごとの識別可能性を証明します。
実験研究では最先端のパフォーマンスを達成し、3 つの主流ベンチマークの 21 のデータセットで全体的な改善が示されています。
さらに、提案された SCI 手法の視覚化結果は、洞察力に富んだケーススタディと予測結果の説明を提供します。
コードは https://github.com/DMIRLAB-Group/SCI から入手できます。

要約(オリジナル)

Although graph neural networks have achieved great success in the task of molecular property prediction in recent years, their generalization ability under out-of-distribution (OOD) settings is still under-explored. Different from existing methods that learn discriminative representations for prediction, we propose a generative model with semantic-components identifiability, named SCI. We demonstrate that the latent variables in this generative model can be explicitly identified into semantic-relevant (SR) and semantic-irrelevant (SI) components, which contributes to better OOD generalization by involving minimal change properties of causal mechanisms. Specifically, we first formulate the data generation process from the atom level to the molecular level, where the latent space is split into SI substructures, SR substructures, and SR atom variables. Sequentially, to reduce misidentification, we restrict the minimal changes of the SR atom variables and add a semantic latent substructure regularization to mitigate the variance of the SR substructure under augmented domain changes. Under mild assumptions, we prove the block-wise identifiability of the SR substructure and the comment-wise identifiability of SR atom variables. Experimental studies achieve state-of-the-art performance and show general improvement on 21 datasets in 3 mainstream benchmarks. Moreover, the visualization results of the proposed SCI method provide insightful case studies and explanations for the prediction results. The code is available at: https://github.com/DMIRLAB-Group/SCI.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google