Learning functions on symmetric matrices and point clouds via lightweight invariant features

要約

この研究では、(1) 共役による順列の作用に関して不変である対称行列上の関数、および (2) 回転、反射に関して不変である点群上の関数の機械学習のための数学的定式化を提示します。
、および点の順列。
これを達成するために、行と列の同時置換のもとで不変である $n\times n$ 対称行列上の有理関数場の生成器から導出された $O(n^2)$ 不変特徴を構築します。
これらの不変特徴が、測度ゼロセットを除く対称行列のすべての個別の軌道を分離できることを示します。
このような機能を使用すると、ほぼすべての重み付きグラフ上で不変関数を普遍的に近似することができます。
固定次元の点群の場合、一般に表現力を失わずに不変特徴の数を $O(n)$ まで削減できることを証明します ($n$ は点の数です)。
これらの不変特徴を DeepSet と組み合わせて、さまざまなサイズの対称行列と点群の関数を学習します。
我々は、分子特性回帰と点群距離予測に関するアプローチの実現可能性を経験的に実証します。

要約(オリジナル)

In this work, we present a mathematical formulation for machine learning of (1) functions on symmetric matrices that are invariant with respect to the action of permutations by conjugation, and (2) functions on point clouds that are invariant with respect to rotations, reflections, and permutations of the points. To achieve this, we construct $O(n^2)$ invariant features derived from generators for the field of rational functions on $n\times n$ symmetric matrices that are invariant under joint permutations of rows and columns. We show that these invariant features can separate all distinct orbits of symmetric matrices except for a measure zero set; such features can be used to universally approximate invariant functions on almost all weighted graphs. For point clouds in a fixed dimension, we prove that the number of invariant features can be reduced, generically without losing expressivity, to $O(n)$, where $n$ is the number of points. We combine these invariant features with DeepSets to learn functions on symmetric matrices and point clouds with varying sizes. We empirically demonstrate the feasibility of our approach on molecule property regression and point cloud distance prediction.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google