Transformers Meet Directed Graphs

要約

トランスフォーマーはもともとテキストのシーケンス間モデルとして提案されましたが、画像、オーディオ、ビデオ、無向グラフなどの幅広いモダリティにとって不可欠なものになりました。
しかし、有向グラフのトランスフォーマーは、ソース コードや論理回路などのユビキタスな領域に適用できるにもかかわらず、驚くほど研究されていないトピックです。
この研究では、有向グラフに対する 2 つの方向と構造を認識した位置エンコーディングを提案します。(1) 磁気ラプラシアンの固有ベクトル – 組み合わせラプラシアンの方向を認識した一般化。
(2) 方向性ランダムウォークエンコーディング。
追加の方向性情報が、ソーティング ネットワークの正当性テストやソース コードの理解など、さまざまな下流タスクで役立つことが経験的に示されています。
データ フロー中心のグラフ構造と合わせて、私たちのモデルは Open Graph Benchmark Code2 の従来技術を相対的に 14.7% 上回っています。

要約(オリジナル)

Transformers were originally proposed as a sequence-to-sequence model for text but have become vital for a wide range of modalities, including images, audio, video, and undirected graphs. However, transformers for directed graphs are a surprisingly underexplored topic, despite their applicability to ubiquitous domains, including source code and logic circuits. In this work, we propose two direction- and structure-aware positional encodings for directed graphs: (1) the eigenvectors of the Magnetic Laplacian – a direction-aware generalization of the combinatorial Laplacian; (2) directional random walk encodings. Empirically, we show that the extra directionality information is useful in various downstream tasks, including correctness testing of sorting networks and source code understanding. Together with a data-flow-centric graph construction, our model outperforms the prior state of the art on the Open Graph Benchmark Code2 relatively by 14.7%.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google