Search Strategy Generation for Branch and Bound Using Genetic Programming

要約

分岐結合 (B\&B) は、検索空間を再帰的にツリーに分割する整数計画法における厳密な手法です。
解決プロセスでは、ツリー内で探索する次のサブ問題 (探索戦略と呼ばれます) を決定することが重要です。
手動で作成されたヒューリスティックが一般的に使用されていますが、すべての問題クラスに対して効果的なものはありません。
ニューラル ネットワークを利用した最近のアプローチは、よりインテリジェントな意思決定を行うと主張していますが、計算コストが高くなります。
このペーパーでは、計算量を軽量にしながらインテリジェントな意思決定を行うことを目的として、B&B 検索戦略ヒューリスティックを自動的に生成する新しい機械学習アプローチである GP2S (検索戦略のための遺伝的プログラミング) を紹介します。
ポリシーを、ノードと問題の特徴を組み合わせて B&B ノードの品質を評価する関数として定義します。
検索戦略ポリシーは、このノード ランキングに基づいた最良優先検索によって定義されます。
ポリシー空間は遺伝的プログラミング アルゴリズムを使用して探索され、トレーニング セットで最高のパフォーマンスを達成するポリシーが選択されます。
私たちのアプローチを、SCIP ソルバーの標準的な方法、最近のグラフ ニューラル ネットワーク ベースの方法、および手作りのヒューリスティックと比較します。
最初の評価には、トレーニング セットと同様のインスタンスとより大きなインスタンスでテストされた 3 種類の基本的な困難な問題が含まれています。
私たちの方法は最良のベースラインよりも最大 2\% 遅く、一貫して SCIP を上回り、平均 11.3\% の高速化を達成しています。
さらに、GP2S は MIPLIB 2017 データセットでテストされ、インスタンスのさまざまなサブセットから複数のヒューリスティックが生成されます。
これは、15 倍以上のインスタンスと 15 倍長い時間制限の下で、10 件中 7 件のケースで SCIP の平均パフォーマンスを上回っており、一部の GP2S メソッドは、実行可能な解の数または最適性ギャップの点で、ほとんどの実験でリードしています。

要約(オリジナル)

Branch-and-Bound (B\&B) is an exact method in integer programming that recursively divides the search space into a tree. During the resolution process, determining the next subproblem to explore within the tree-known as the search strategy-is crucial. Hand-crafted heuristics are commonly used, but none are effective over all problem classes. Recent approaches utilizing neural networks claim to make more intelligent decisions but are computationally expensive. In this paper, we introduce GP2S (Genetic Programming for Search Strategy), a novel machine learning approach that automatically generates a B\&B search strategy heuristic, aiming to make intelligent decisions while being computationally lightweight. We define a policy as a function that evaluates the quality of a B\&B node by combining features from the node and the problem; the search strategy policy is then defined by a best-first search based on this node ranking. The policy space is explored using a genetic programming algorithm, and the policy that achieves the best performance on a training set is selected. We compare our approach with the standard method of the SCIP solver, a recent graph neural network-based method, and handcrafted heuristics. Our first evaluation includes three types of primal hard problems, tested on instances similar to the training set and on larger instances. Our method is at most 2\% slower than the best baseline and consistently outperforms SCIP, achieving an average speedup of 11.3\%. Additionally, GP2S is tested on the MIPLIB 2017 dataset, generating multiple heuristics from different subsets of instances. It exceeds SCIP’s average performance in 7 out of 10 cases across 15 times more instances and under a time limit 15 times longer, with some GP2S methods leading on most experiments in terms of the number of feasible solutions or optimality gap.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google