Graph-level representations using ensemble-based readout functions

要約

タイトル：アンサンブルベース読み出し関数を用いたグラフレベル表現
要約：
– グラフ機械学習モデルは、様々なアプリケーション領域で成功を収めている。
– Graph Neural Networks (GNNs)は、ノードレベル表現を抽出するエレガントな方法を提供し、ソーシャルネットワーク内のユーザーを分類するなどのノード関連の問題を解決するために使用できる。
– しかし、分子アプリケーションなど、多くのタスクはグラフ全体のレベルで表現が必要である。
– ノードレベルの表現をグラフレベルのベクトルに変換するためには、いわゆる読み出し関数を適用する必要がある。
– 本研究では、シンプルな非トレーナブルな読み出し関数、複雑でパラメータ化されたモデルを含む既存の読み出し方法を研究する。
– 表現または予測を組み合わせるアンサンブルベースの読み出し関数の概念を導入する。
– 実験により、このようなアンサンブルは、シングル読み出しよりも良い性能を発揮するか、複雑なパラメータ化された読み出しと同等の性能を発揮し、モデルの複雑さの一部しか必要としないことが示された。

要約(オリジナル)

Graph machine learning models have been successfully deployed in a variety of application areas. One of the most prominent types of models – Graph Neural Networks (GNNs) – provides an elegant way of extracting expressive node-level representation vectors, which can be used to solve node-related problems, such as classifying users in a social network. However, many tasks require representations at the level of the whole graph, e.g., molecular applications. In order to convert node-level representations into a graph-level vector, a so-called readout function must be applied. In this work, we study existing readout methods, including simple non-trainable ones, as well as complex, parametrized models. We introduce a concept of ensemble-based readout functions that combine either representations or predictions. Our experiments show that such ensembles allow for better performance than simple single readouts or similar performance as the complex, parametrized ones, but at a fraction of the model complexity.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI