StereoDistill: Pick the Cream from LiDAR for Distilling Stereo-based 3D Object Detection

要約

本論文では、ステレオとLiDARベースの間のギャップを縮めるために、StereoDistillと名付けられたクロスモーダル蒸留法を提案します。StereoDistillのキーデザインは、回帰のためのX-component Guided Distillation～（XGD）と分類のためのCross-anchor Logit Distillation～（CLD）です。XGDでは、経験的に閾値を採用して高品質の教師予測をソフトターゲットとして選択する代わりに、予測された3Dボックスをサブコンポーネントに分解し、教師コンポーネントパイロットがグランドトゥルースと一致する場合、蒸留のために対応する部分を保持し、正予測数を大幅に増加させ、生徒モデルの模倣困難性を軽減させることができる。CLDでは、アンカーレベルで個別に蒸留するのではなく、同じ位置にある全てのアンカーの確率分布を集約し、最も確率の高いアンカーを推奨しています。最後に、我々のStereoDistillは、KITTIテストベンチマークにおいてステレオベースの3D検出で最先端の結果を達成し、KITTIとArgoverse Datasetの広範な実験によってその有効性が検証されました。

要約(オリジナル)

In this paper, we propose a cross-modal distillation method named StereoDistill to narrow the gap between the stereo and LiDAR-based approaches via distilling the stereo detectors from the superior LiDAR model at the response level, which is usually overlooked in 3D object detection distillation. The key designs of StereoDistill are: the X-component Guided Distillation~(XGD) for regression and the Cross-anchor Logit Distillation~(CLD) for classification. In XGD, instead of empirically adopting a threshold to select the high-quality teacher predictions as soft targets, we decompose the predicted 3D box into sub-components and retain the corresponding part for distillation if the teacher component pilot is consistent with ground truth to largely boost the number of positive predictions and alleviate the mimicking difficulty of the student model. For CLD, we aggregate the probability distribution of all anchors at the same position to encourage the highest probability anchor rather than individually distill the distribution at the anchor level. Finally, our StereoDistill achieves state-of-the-art results for stereo-based 3D detection on the KITTI test benchmark and extensive experiments on KITTI and Argoverse Dataset validate the effectiveness.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL