要約
点畳み込み演算は、3次元空間のパターンを検出するために、各点の近傍情報を符号化するための様々な埋め込みメカニズムに依存している。しかし、通常、畳み込み演算は全体として評価されるため、そのような近傍情報を符号化するための理想的なメカニズムを調べる研究はあまり行われていない。本論文では、このような点近傍埋め込み(PNE)のみを制御された実験セットアップで分析した初めての大規模な研究を提供する。実験から、点群用のニューラルネットワークアーキテクチャの将来の設計を改善するのに役立つ、PNEに関する一連の推奨事項を導き出す。我々の最も驚くべき発見は、ReLU活性化関数を持つ多層パーセプトロン(MLP)に基づく最も一般的に使用される埋め込みは、すべての埋め込みで最低のパフォーマンスを提供し、いくつかのタスクでは点座標の単純な線形結合にさえ追い越されることを示している。さらに、このような埋め込みに基づく単純な畳み込みを用いたニューラルネットワークアーキテクチャが、いくつかのタスクにおいて、最近の複雑な演算を凌駕し、最先端の結果を達成できることを示す。最後に、これらの知見は、より複雑な他の畳み込み演算にも外挿できることを示し、我々の推奨に従って、最近の最先端のアーキテクチャをいかに改善できるかを示す。
要約(オリジナル)
Point convolution operations rely on different embedding mechanisms to encode the neighborhood information of each point in order to detect patterns in 3D space. However, as convolutions are usually evaluated as a whole, not much work has been done to investigate which is the ideal mechanism to encode such neighborhood information. In this paper, we provide the first extensive study that analyzes such Point Neighborhood Embeddings (PNE) alone in a controlled experimental setup. From our experiments, we derive a set of recommendations for PNE that can help to improve future designs of neural network architectures for point clouds. Our most surprising finding shows that the most commonly used embedding based on a Multi-layer Perceptron (MLP) with ReLU activation functions provides the lowest performance among all embeddings, even being surpassed on some tasks by a simple linear combination of the point coordinates. Additionally, we show that a neural network architecture using simple convolutions based on such embeddings is able to achieve state-of-the-art results on several tasks, outperforming recent and more complex operations. Lastly, we show that these findings extrapolate to other more complex convolution operations, where we show how following our recommendations we are able to improve recent state-of-the-art architectures.
arxiv情報
著者 | Pedro Hermosilla |
発行日 | 2023-10-03 14:26:56+00:00 |
arxivサイト | arxiv_id(pdf) |