An Investigation on The Position Encoding in Vision-Based Dynamics Prediction

要約

RGB 画像と単純な物体の説明を利用して物体の状態を予測する、ビジョンベースのダイナミクス予測モデルは成功しましたが、環境の不整合という課題に直面しました。
文献では、ビジュアル ドメインをセマンティック セグメンテーションやバウンディング ボックスなどの環境コンテキストとオブジェクト抽象の両方で統合すると、ビジュアル ドメインの不整合の問題を効果的に軽減できることが実証されていますが、議論は環境コンテキストの抽象とバウンディングの使用に関する洞察に焦点が当てられました。
オブジェクトの概要が十分に調査されていないため、ボックスに表示されます。
さらに、文献に示されている経験的結果のように、オブジェクトの視覚的外観が削除された場合でも、ネットワークに直接供給されるのではなく、オブジェクト境界ボックスのみが、関心領域プーリングを介して間接的に十分な位置情報を提供できることに気づきました。
ダイナミクス予測のための操作。
しかし、以前の文献では、そのような位置情報がダイナミクス予測モデル内でどのように暗黙的にエンコードされるかに関する議論が見落とされていました。
したがって、この論文では、バウンディングボックスをオブジェクト抽象として使用して出力特徴に位置情報をエンコードするためのプロセスと必要な条件を調査するための詳細な研究を提供します。
さらに、環境コンテキストが変化するとダイナミクス予測のパフォーマンスが危険にさらされるなど、オブジェクト抽象のみを使用することの制限についても研究します。

要約(オリジナル)

Despite the success of vision-based dynamics prediction models, which predict object states by utilizing RGB images and simple object descriptions, they were challenged by environment misalignments. Although the literature has demonstrated that unifying visual domains with both environment context and object abstract, such as semantic segmentation and bounding boxes, can effectively mitigate the visual domain misalignment challenge, discussions were focused on the abstract of environment context, and the insight of using bounding box as the object abstract is under-explored. Furthermore, we notice that, as empirical results shown in the literature, even when the visual appearance of objects is removed, object bounding boxes alone, instead of being directly fed into the network, can indirectly provide sufficient position information via the Region of Interest Pooling operation for dynamics prediction. However, previous literature overlooked discussions regarding how such position information is implicitly encoded in the dynamics prediction model. Thus, in this paper, we provide detailed studies to investigate the process and necessary conditions for encoding position information via using the bounding box as the object abstract into output features. Furthermore, we study the limitation of solely using object abstracts, such that the dynamics prediction performance will be jeopardized when the environment context varies.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google