Learning Geometric Combinatorial Optimization Problems using Self-attention and Domain Knowledge

要約

タイトル：Self-attentionとドメイン知識を使用した幾何的組み合わせ最適化問題の学習

要約：

– 組み合わせ最適化問題（COPs）は、様々な分野で重要な研究トピックです。
– 近年、深層学習ベースのアプローチを使用してCOPsを解決する試みが多数ありました。
– 新しいアテンションメカニズムとセルフアテンションを使用したニューラルネットワークモデルを提案します。
– モデルは、エンコーダーでセルフアテンションを使用して幾何学に基づくCOPsのポイント間関係を効率的に学習するように設計されています。
– 入力と出力のシーケンスの順序を適切に指定し、問題をより規則的かつ効果的に学習するようにする効率的な方法を提案します。
– 幾何COPsには満たす必要がある幾何学的要件があります。デコーダーでは、ドメイン知識を使用した新しいマスキングスキームを提案し、問題の幾何学的要件が満たされていない場合に高いペナルティを提供します。
– 提案されたニューラルネットワークは、幾何学に基づく様々なCOPsに適用できる柔軟なフレームワークです。
– Delaunay三角形、凸包、および平面巡回セールスマン問題の3つの幾何COPsに関して実験を実施し、提案されたモデルがこれらの問題を解決するための近似解を見つけるための競争力のあるパフォーマンスを示すことを示しました。

要約(オリジナル)

Combinatorial optimization problems (COPs) are an important research topic in various fields. In recent times, there have been many attempts to solve COPs using deep learning-based approaches. We propose a novel neural network model that solves COPs involving geometry based on self-attention and a new attention mechanism. The proposed model is designed such that the model efficiently learns point-to-point relationships in COPs involving geometry using self-attention in the encoder. We propose efficient input and output sequence ordering methods that reduce ambiguities such that the model learns the sequences more regularly and effectively. Geometric COPs involve geometric requirements that need to be satisfied. In the decoder, a new masking scheme using domain knowledge is proposed to provide a high penalty when the geometric requirement of the problem is not satisfied. The proposed neural net is a flexible framework that can be applied to various COPs involving geometry. We conduct experiments to demonstrate the effectiveness of the proposed model for three COPs involving geometry: Delaunay triangulation, convex hull, and the planar Traveling Salesman problem. Our experimental results show that the proposed model exhibits competitive performance in finding approximate solutions for solving these problems.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI