Band-gap regression with architecture-optimized message-passing neural networks

要約

グラフベースのニューラル ネットワーク、特にメッセージ パッシング ニューラル ネットワーク (MPNN) は、固体の物理的特性の予測において大きな可能性を示しています。
この作業では、まず AFLOW データベースからの密度汎関数理論データを通じて材料を金属か半導体/絶縁体として分類するように MPNN をトレーニングします。
次に、ニューラル アーキテクチャ検索を実行して MPNN のモデル アーキテクチャとハイパーパラメータ空間を探索し、非金属として識別された材料のバンド ギャップを予測します。
検索のパラメーターには、メッセージ受け渡しステップの数、潜在サイズ、アクティブ化関数などが含まれます。
検索で得られた最高のパフォーマンスのモデルは、文献にある既存のモデルを大幅に上回るアンサンブルにプールされます。
不確実性の定量化はモンテカルロ ドロップアウトとアンサンブルで評価され、アンサンブル法の方が優れていることが証明されています。
アンサンブル モデルの適用範囲は、結晶系、密度汎関数計算へのハバード パラメーターの組み込み、材料を構成する原子種に関して分析されます。

要約(オリジナル)

Graph-based neural networks and, specifically, message-passing neural networks (MPNNs) have shown great potential in predicting physical properties of solids. In this work, we train an MPNN to first classify materials through density functional theory data from the AFLOW database as being metallic or semiconducting/insulating. We then perform a neural-architecture search to explore the model architecture and hyperparameter space of MPNNs to predict the band gaps of the materials identified as non-metals. The parameters in the search include the number of message-passing steps, latent size, and activation-function, among others. The top-performing models from the search are pooled into an ensemble that significantly outperforms existing models from the literature. Uncertainty quantification is evaluated with Monte-Carlo Dropout and ensembling, with the ensemble method proving superior. The domain of applicability of the ensemble model is analyzed with respect to the crystal systems, the inclusion of a Hubbard parameter in the density functional calculations, and the atomic species building up the materials.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google