Fusion of Graph Neural Networks via Optimal Transport

要約

この論文では、GCNを1つのモデルに組み合わせるというアイデアを探ります。
そのために、最適な輸送（OT）を使用して、レイヤーごとの異なるモデルの重みを整列させます。
3種類の輸送コストを提示して評価し、調査した融合法がバニラ平均のパフォーマンスを常に上回ることを示します。
最後に、OTを使用したモデル融合がMLPよりもGCNSの場合に硬く、グラフ構造をプロセスに組み込むことがメソッドのパフォーマンスを改善しないことを示唆する結果を提示します。

要約(オリジナル)

In this paper, we explore the idea of combining GCNs into one model. To that end, we align the weights of different models layer-wise using optimal transport (OT). We present and evaluate three types of transportation costs and show that the studied fusion method consistently outperforms the performance of vanilla averaging. Finally, we present results suggesting that model fusion using OT is harder in the case of GCNs than MLPs and that incorporating the graph structure into the process does not improve the performance of the method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google