Group Invariant Global Pooling

要約

グループ等変表現を構築するアーキテクチャを考案するために多くの研究が費やされてきましたが、不変性は単純なグローバル プーリング メカニズムを使用して誘導されることがよくあります。
さまざまな分子タスクにおける順列不変プーリングの成功にもかかわらず、与えられた対称性に対して不変である表現層の作成についてはほとんど研究が行われていません。
この研究では、グループ インバリアント グローバル プーリング (GIGP) を紹介します。これは、大規模なクラスの不変関数を表現するのに十分な表現力があることが証明されている不変プーリング層です。
ローテーションされた MNIST と QM9 で GIGP を検証し、前者については同一の結果が得られる一方で、後者については改善が見られることを示しています。
この不変の集計方法は、プーリング プロセスのグループ オービットを認識するようにすることで、適切な原則に基づいたグループ集計を実行しながら、パフォーマンスの向上につながります。

要約(オリジナル)

Much work has been devoted to devising architectures that build group-equivariant representations, while invariance is often induced using simple global pooling mechanisms. Little work has been done on creating expressive layers that are invariant to given symmetries, despite the success of permutation invariant pooling in various molecular tasks. In this work, we present Group Invariant Global Pooling (GIGP), an invariant pooling layer that is provably sufficiently expressive to represent a large class of invariant functions. We validate GIGP on rotated MNIST and QM9, showing improvements for the latter while attaining identical results for the former. By making the pooling process group orbit-aware, this invariant aggregation method leads to improved performance, while performing well-principled group aggregation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google