Clifford Group Equivariant Neural Networks

要約

$\mathrm{E}(n)$ 等変ネットワークを構築するための新しいアプローチである、クリフォード群等変ニューラル ネットワークを紹介します。
私たちは、クリフォード代数内の部分群である $\textit{クリフォード群}$ を特定して研究します。その定義をいくつかの好ましい特性を達成するためにわずかに調整します。
主に、群の作用は、複数ベクトルのグレーディングを尊重しながら、典型的なベクトル空間を超えてクリフォード代数全体に広がる直交自己同型を形成します。
これにより、マルチベクトル分解に対応するいくつかの非等価な部分表現が生じます。
さらに、このアクションがクリフォード代数のベクトル空間構造だけでなく、その乗法構造、つまり幾何積も考慮していることを証明します。
これらの発見は、グレード投影を含むマルチベクトルのすべての多項式がクリフォード群に関して等変マップを構成し、等変ニューラル ネットワーク層をパラメーター化できることを意味します。
注目すべき利点は、これらの層がベクトル ベースで直接動作し、あらゆる次元にエレガントに一般化できることです。
私たちは、特に単一のコア実装から、3次元 $n$-body 実験、4 次元ローレンツ等変高エネルギー物理実験、および
5次元凸包実験。

要約(オリジナル)

We introduce Clifford Group Equivariant Neural Networks: a novel approach for constructing $\mathrm{E}(n)$-equivariant networks. We identify and study the $\textit{Clifford group}$, a subgroup inside the Clifford algebra, whose definition we slightly adjust to achieve several favorable properties. Primarily, the group’s action forms an orthogonal automorphism that extends beyond the typical vector space to the entire Clifford algebra while respecting the multivector grading. This leads to several non-equivalent subrepresentations corresponding to the multivector decomposition. Furthermore, we prove that the action respects not just the vector space structure of the Clifford algebra but also its multiplicative structure, i.e., the geometric product. These findings imply that every polynomial in multivectors, including their grade projections, constitutes an equivariant map with respect to the Clifford group, allowing us to parameterize equivariant neural network layers. Notable advantages are that these layers operate directly on a vector basis and elegantly generalize to any dimension. We demonstrate, notably from a single core implementation, state-of-the-art performance on several distinct tasks, including a three-dimensional $n$-body experiment, a four-dimensional Lorentz-equivariant high-energy physics experiment, and a five-dimensional convex hull experiment.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google