AutoLink: Self-supervised Learning of Human Skeletons and Object Outlines by Linking Keypoints

要約

キーポイントのような構造化表現は、姿勢変換、条件画像生成、アニメーション、3次元再構成などに広く用いられている。しかし、それらの教師付き学習は、対象領域ごとに高価なアノテーションを必要とする。我々は、直線エッジで結ばれた2次元キーポイントのグラフを用いて、物体の構造と外観を分離することを学習する自己教師あり手法を提案する。同じオブジェクトクラスを描いた画像の集合が与えられるだけで、キーポイントの位置とその対のエッジの重みの両方を学習する。このグラフは解釈可能であり、例えば、AutoLinkは人物の画像に適用すると、人間の骨格のトポロジーを復元する。我々の主要な構成要素は、i）入力画像中のキーポイントの位置を予測するエンコーダ、ii）すべての画像中のキーポイントの同じペアを結ぶ潜在変数としての共有グラフ、iii）潜在グラフのエッジ重みとキーポイント位置をソフトで微分可能に結合する中間エッジマップ、iv）ランダムにマスクした画像に対するインペイント目標、である。AutoLinkはよりシンプルであるが、確立されたキーポイントとポーズ推定ベンチマークにおいて、既存の自己教師付き手法を上回り、より多様なデータセットにおける構造条件付き生成モデルへの道を開くものである。

要約(オリジナル)

Structured representations such as keypoints are widely used in pose transfer, conditional image generation, animation, and 3D reconstruction. However, their supervised learning requires expensive annotation for each target domain. We propose a self-supervised method that learns to disentangle object structure from the appearance with a graph of 2D keypoints linked by straight edges. Both the keypoint location and their pairwise edge weights are learned, given only a collection of images depicting the same object class. The graph is interpretable, for example, AutoLink recovers the human skeleton topology when applied to images showing people. Our key ingredients are i) an encoder that predicts keypoint locations in an input image, ii) a shared graph as a latent variable that links the same pairs of keypoints in every image, iii) an intermediate edge map that combines the latent graph edge weights and keypoint locations in a soft, differentiable manner, and iv) an inpainting objective on randomly masked images. Although simpler, AutoLink outperforms existing self-supervised methods on the established keypoint and pose estimation benchmarks and paves the way for structure-conditioned generative models on more diverse datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL