Implicit Convolutional Kernels for Steerable CNNs

要約

操作可能な畳み込みニューラル ネットワーク (CNN) は、反射や回転など、原点保存群 $G$ の平行移動や変換と等価なニューラル ネットワークを構築するための一般的なフレームワークを提供します。
これらは、カーネル空間に課せられたグループ固有の等分散制約を分析的に解くことによって得られる $G$ 操作可能なカーネルによる標準の畳み込みに依存します。
ソリューションは特定のグループ $G$ に合わせて調整されているため、カーネル基礎の実装は他の対称変換に一般化されず、一般的なグループ等変モデルの開発が複雑になります。
私たちは、$G$ 操作可能なカーネルをパラメータ化するために、多層パーセプトロン (MLP) を介した暗黙的なニューラル表現を使用することを提案します。
結果として得られるフレームワークは、Steerable CNN を実装するためのシンプルかつ柔軟な方法を提供し、$G$ と同等の MLP を構築できる任意のグループ $G$ に一般化します。
N 体シミュレーション、点群分類、分子特性予測などの複数のタスクに対するこの方法の有効性を証明します。

要約(オリジナル)

Steerable convolutional neural networks (CNNs) provide a general framework for building neural networks equivariant to translations and transformations of an origin-preserving group $G$, such as reflections and rotations. They rely on standard convolutions with $G$-steerable kernels obtained by analytically solving the group-specific equivariance constraint imposed onto the kernel space. As the solution is tailored to a particular group $G$, implementing a kernel basis does not generalize to other symmetry transformations, complicating the development of general group equivariant models. We propose using implicit neural representation via multi-layer perceptrons (MLPs) to parameterize $G$-steerable kernels. The resulting framework offers a simple and flexible way to implement Steerable CNNs and generalizes to any group $G$ for which a $G$-equivariant MLP can be built. We prove the effectiveness of our method on multiple tasks, including N-body simulations, point cloud classification and molecular property prediction.

arxiv情報

著者 Maksim Zhdanov,Nico Hoffmann,Gabriele Cesa
発行日 2023-10-27 14:31:32+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CV, cs.LG パーマリンク