Graph Neural Networks and Arithmetic Circuits

要約

私たちは、集約結合 GNN やその他の特定のタイプに限定されず、グラフ ニューラル ネットワーク (GNN) アーキテクチャに従うニューラル ネットワークの計算能力を特徴付けます。
私たちは、多様な活性化関数を使用した GNN の表現力と実数上の算術回路との間の正確な対応関係を確立します。
私たちの結果では、ネットワークの活性化関数は回路内のゲート型になります。
私たちの結果は、すべての一般的な活性化関数について、均一および不均一の両方の一定深さの回路およびネットワークのファミリに当てはまります。

要約(オリジナル)

We characterize the computational power of neural networks that follow the graph neural network (GNN) architecture, not restricted to aggregate-combine GNNs or other particular types. We establish an exact correspondence between the expressivity of GNNs using diverse activation functions and arithmetic circuits over real numbers. In our results the activation function of the network becomes a gate type in the circuit. Our result holds for families of constant depth circuits and networks, both uniformly and non-uniformly, for all common activation functions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google