Tensor Frames — How To Make Any Message Passing Network Equivariant

要約

幾何学的な深層学習の多くのアプリケーションでは、グローバル座標フレームの選択は任意であり、予測は参照フレームから独立している必要があります。
言い換えれば、ネットワークは入力の回転と反射、つまり O(d) の変換に関して等変である必要があります。
我々は、等変メッセージパッシングアーキテクチャを構築し、既存の非等変アーキテクチャを等変になるように変更するための新しいフレームワークを提案します。
私たちのアプローチはローカル座標フレームに基づいており、メッセージにテンソル オブジェクトを含めることによって幾何学的情報がローカル座標フレーム間で一貫して通信されます。
私たちのフレームワークは、任意次元ユークリッド空間の幾何学的データを渡すメッセージに適用できます。
等変メッセージ パッシングに対する他の多くのアプローチでは、非標準の正規化層や非線形性などの特殊な構成ブロックが必要ですが、私たちのアプローチは、そのような変更を加えることなく、既存のアーキテクチャに直接適応できます。
私たちは、一般的な点群アーキテクチャに対する O(3) 等分散の利点を明示的に実証し、点群の法線ベクトル回帰に関する最先端の結果を生成します。

要約(オリジナル)

In many applications of geometric deep learning, the choice of global coordinate frame is arbitrary, and predictions should be independent of the reference frame. In other words, the network should be equivariant with respect to rotations and reflections of the input, i.e., the transformations of O(d). We present a novel framework for building equivariant message passing architectures and modifying existing non-equivariant architectures to be equivariant. Our approach is based on local coordinate frames, between which geometric information is communicated consistently by including tensorial objects in the messages. Our framework can be applied to message passing on geometric data in arbitrary dimensional Euclidean space. While many other approaches for equivariant message passing require specialized building blocks, such as non-standard normalization layers or non-linearities, our approach can be adapted straightforwardly to any existing architecture without such modifications. We explicitly demonstrate the benefit of O(3)-equivariance for a popular point cloud architecture and produce state-of-the-art results on normal vector regression on point clouds.

arxiv情報

著者 Peter Lippmann,Gerrit Gerhartz,Roman Remme,Fred A. Hamprecht
発行日 2024-08-09 14:40:27+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG パーマリンク