SALSA-CLRS: A Sparse and Scalable Benchmark for Algorithmic Reasoning

要約

CLRS アルゴリズム学習ベンチマークの拡張機能を導入し、スケーラビリティとスパース表現の利用を優先します。
CLRS のアルゴリズムの多くは、実行モデルにミラーリングされたグローバル メモリまたは情報交換を必要とし、根本的な問題に基づいて完全に接続された (スパースではない) グラフを構築します。
CLRS の目的は、学習されたアルゴリズムがどの程度効果的に大規模なインスタンスに一般化できるかを評価することですが、既存の実行モデルは、要求の厳しいメモリ要件と実行時間 (拡張が難しい) により、重大な制約になります。
ただし、多くの重要なアルゴリズムは完全に接続されたグラフを必要としません。
これらのアルゴリズムは主に本質的に分散されており、グラフ ニューラル ネットワークで採用されているメッセージ パッシング パラダイムと密接に連携しています。
したがって、特にスケーラビリティとスパース性を念頭に置いて、現在の CLRS ベンチマークを拡張した SALSA-CLRS を提案します。
私たちのアプローチには、元の CLRS ベンチマークから適応されたアルゴリズムが含まれており、分散アルゴリズムとランダム化アルゴリズムからの新しい問題が導入されています。
さらに、ベンチマークについて徹底的な実証評価を行っています。
コードは https://github.com/jkminder/SALSA-CLRS で公開されています。

要約(オリジナル)

We introduce an extension to the CLRS algorithmic learning benchmark, prioritizing scalability and the utilization of sparse representations. Many algorithms in CLRS require global memory or information exchange, mirrored in its execution model, which constructs fully connected (not sparse) graphs based on the underlying problem. Despite CLRS’s aim of assessing how effectively learned algorithms can generalize to larger instances, the existing execution model becomes a significant constraint due to its demanding memory requirements and runtime (hard to scale). However, many important algorithms do not demand a fully connected graph; these algorithms, primarily distributed in nature, align closely with the message-passing paradigm employed by Graph Neural Networks. Hence, we propose SALSA-CLRS, an extension of the current CLRS benchmark specifically with scalability and sparseness in mind. Our approach includes adapted algorithms from the original CLRS benchmark and introduces new problems from distributed and randomized algorithms. Moreover, we perform a thorough empirical evaluation of our benchmark. Code is publicly available at https://github.com/jkminder/SALSA-CLRS.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google