Smooth, exact rotational symmetrization for deep learning on point clouds

要約

点群は 3D オブジェクトの多用途な表現であり、科学や工学で広く応用されています。
これらを入力として使用する多くの成功した深層学習モデルが提案されています。
化学および材料のモデリングの領域は、モデルを実際に使用できるようにするには物理的制約を正確に遵守することが非常に望ましいため、特に困難です。
これらの制約には、同一原子の並進、回転、順列に関する滑らかさと不変性が含まれます。
これらの要件が厳密に満たされていない場合、たとえモデルの精度が優れていたとしても、原子論的なシミュレーションは不合理な結果を招く可能性があります。
そのため、設計空間を制限することで不変性を実現する専用アーキテクチャが開発されてきました。
汎用点群モデルはより多様ですが、回転対称性が無視されることがよくあります。
他のすべての要件を維持しながら、任意のモデルに回転等分散を追加する一般的な対称化方法を提案します。
私たちのアプローチは、設計空間の制約を緩和し、他の領域で効果的であることが証明されたアイデアを組み込むことを可能にすることで、より優れた原子スケールの機械学習スキームの開発を簡素化します。
私たちは、本質的に等変ではありませんが、分子と固体のいくつかのベンチマーク データセットで最先端のパフォーマンスを達成するポイント エッジ トランスフォーマー (PET) アーキテクチャを導入することで、このアイデアを実証します。
一般的なプロトコルを事後的に適用すると、精度の変化を最小限に抑えながら、PET が正確に等変になります。

要約(オリジナル)

Point clouds are versatile representations of 3D objects and have found widespread application in science and engineering. Many successful deep-learning models have been proposed that use them as input. The domain of chemical and materials modeling is especially challenging because exact compliance with physical constraints is highly desirable for a model to be usable in practice. These constraints include smoothness and invariance with respect to translations, rotations, and permutations of identical atoms. If these requirements are not rigorously fulfilled, atomistic simulations might lead to absurd outcomes even if the model has excellent accuracy. Consequently, dedicated architectures, which achieve invariance by restricting their design space, have been developed. General-purpose point-cloud models are more varied but often disregard rotational symmetry. We propose a general symmetrization method that adds rotational equivariance to any given model while preserving all the other requirements. Our approach simplifies the development of better atomic-scale machine-learning schemes by relaxing the constraints on the design space and making it possible to incorporate ideas that proved effective in other domains. We demonstrate this idea by introducing the Point Edge Transformer (PET) architecture, which is not intrinsically equivariant but achieves state-of-the-art performance on several benchmark datasets of molecules and solids. A-posteriori application of our general protocol makes PET exactly equivariant, with minimal changes to its accuracy.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google