TopoTune : A Framework for Generalized Combinatorial Complex Neural Networks

要約

グラフニューラルネットワーク（GNNS）は、グラフドメインの対称性を保持する方法で、リレーショナルデータセット、処理ノード、およびエッジ機能から学習することに優れています。
ただし、生物学的ネットワークやソーシャルネットワークなどの多くの複雑なシステムは、高次トポロジードメインによってより自然に表される多量の複雑な相互作用を投入します。
トポロジーディープラーニング（TDL）の新興分野は、これらの高次構造に対応して活用することを目的としています。
かなり一般的なTDLモデルである組み合わせ複合ニューラルネットワーク（CCNNS）は、GNNよりも表現力豊かでパフォーマンスが優れていることが示されています。
ただし、GNNエコシステムとは異なる方法で、TDLには、新しいアーキテクチャを簡単に定義し、そのアクセシビリティと適用性を制限するための原則と標準化されたフレームワークがありません。
この問題に対処するために、Generalized CCNNS（GCCNS）を導入します。これは、TDLモデルの新しいシンプルでありながら強力なファミリであり、任意の（グラフ）ニューラルネットワークをTDLの対応物に体系的に変換できるようにします。
GCCNSはCCNNを一般化および包含することを証明しますが、GCCNSの多様なクラスでの広範な実験は、これらのアーキテクチャがCCNNSと一貫して一致またはアウトパフォーマンスし、多くの場合モデルの複雑さが少ないことを示しています。
TDLを加速および民主化するために、前例のない柔軟性と容易さでGCCNを定義、構築、およびトレーニングするための軽量ソフトウェアであるTopotuneを紹介します。

要約(オリジナル)

Graph Neural Networks (GNNs) excel in learning from relational datasets, processing node and edge features in a way that preserves the symmetries of the graph domain. However, many complex systems — such as biological or social networks–involve multiway complex interactions that are more naturally represented by higher-order topological domains. The emerging field of Topological Deep Learning (TDL) aims to accommodate and leverage these higher-order structures. Combinatorial Complex Neural Networks (CCNNs), fairly general TDL models, have been shown to be more expressive and better performing than GNNs. However, differently from the GNN ecosystem, TDL lacks a principled and standardized framework for easily defining new architectures, restricting its accessibility and applicability. To address this issue, we introduce Generalized CCNNs (GCCNs), a novel simple yet powerful family of TDL models that can be used to systematically transform any (graph) neural network into its TDL counterpart. We prove that GCCNs generalize and subsume CCNNs, while extensive experiments on a diverse class of GCCNs show that these architectures consistently match or outperform CCNNs, often with less model complexity. In an effort to accelerate and democratize TDL, we introduce TopoTune, a lightweight software for defining, building, and training GCCNs with unprecedented flexibility and ease.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google