Are Graph Neural Networks Optimal Approximation Algorithms?

要約

この研究では、半定値計画法 (SDP) の強力なアルゴリズム ツールを使用して、大規模な組み合わせ最適化問題に対する最適な近似アルゴリズムを取得するために使用できるグラフ ニューラル ネットワーク アーキテクチャを設計します。
具体的には、多項式サイズのメッセージ パッシング アルゴリズムが、Unique Games 予想を仮定した最大制約満足問題に対する最も強力な多項式時間アルゴリズムを表現できることを証明します。
私たちはこの結果を利用して、Max Cut や最大独立集合などのランドマーク的な組み合わせ最適化問題に対する高品質の近似解を取得する効率的なグラフ ニューラル ネットワーク アーキテクチャ OptGNN を構築します。
私たちのアプローチは、ニューラル ベースラインと古典的なアルゴリズムの両方に対して、幅広い実世界および合成データセットにわたって強力な経験的結果を達成します。
最後に、凸緩和を捕捉する OptGNN の機能を利用して、OptGNN の学習された埋め込みから最適性の二重証明書 (最適解の境界) を生成するアルゴリズムを設計します。

要約(オリジナル)

In this work we design graph neural network architectures that can be used to obtain optimal approximation algorithms for a large class of combinatorial optimization problems using powerful algorithmic tools from semidefinite programming (SDP). Concretely, we prove that polynomial-sized message passing algorithms can represent the most powerful polynomial time algorithms for Max Constraint Satisfaction Problems assuming the Unique Games Conjecture. We leverage this result to construct efficient graph neural network architectures, OptGNN, that obtain high-quality approximate solutions on landmark combinatorial optimization problems such as Max Cut and maximum independent set. Our approach achieves strong empirical results across a wide range of real-world and synthetic datasets against both neural baselines and classical algorithms. Finally, we take advantage of OptGNN’s ability to capture convex relaxations to design an algorithm for producing dual certificates of optimality (bounds on the optimal solution) from the learned embeddings of OptGNN.

arxiv情報

著者 Morris Yau,Eric Lu,Nikolaos Karalias,Jessica Xu,Stefanie Jegelka
発行日 2023-10-09 14:05:16+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.DM, cs.DS, cs.LG パーマリンク