要約
半教師あり学習は、ラベル付けされたデータへの依存を緩和するため、深いモデルの実際の展開において魅力的な手法です。
ピクセルレベルの注釈には多大な労力が必要なため、高密度予測の範囲では特に重要です。
この論文では、摂動されたラベルのない入力に対して一貫した予測を強制する半教師ありアルゴリズムについて検討します。
2 つのモデル インスタンスの 1 つだけを摂動し、摂動されていないインスタンスを逆方向に通過させないことの利点を調べます。
また、幾何学的ワープとフォトメトリックジッタリングの合成として競合摂動モデルを提案します。
リアルタイムおよび低電力アプリケーションにとって重要であるため、効率的なモデルで実験します。
私たちの実験は、(1) 一方向の一貫性、(2) スチューデント ブランチのみの摂動、および (3) 強い測光および幾何学的摂動の明確な利点を示しています。
私たちの摂動モデルは最近の研究よりも優れており、寄与のほとんどは測光成分によるものです。
大まかに注釈が付けられた Cityscapes の大規模なサブセットからの追加データを使用した実験では、半教師付きトレーニングが粗いラベルを使用した教師付きトレーニングよりも優れていることが示唆されています。
要約(オリジナル)
Semi-supervised learning an attractive technique in practical deployments of deep models since it relaxes the dependence on labeled data. It is especially important in the scope of dense prediction because pixel-level annotation requires significant effort. This paper considers semi-supervised algorithms that enforce consistent predictions over perturbed unlabeled inputs. We study the advantages of perturbing only one of the two model instances and preventing the backward pass through the unperturbed instance. We also propose a competitive perturbation model as a composition of geometric warp and photometric jittering. We experiment with efficient models due to their importance for real-time and low-power applications. Our experiments show clear advantages of (1) one-way consistency, (2) perturbing only the student branch, and (3) strong photometric and geometric perturbations. Our perturbation model outperforms recent work and most of the contribution comes from photometric component. Experiments with additional data from the large coarsely annotated subset of Cityscapes suggest that semi-supervised training can outperform supervised training with the coarse labels.
arxiv情報
著者 | Ivan Grubišić,Marin Oršić,Siniša Šegvić |
発行日 | 2023-01-20 10:52:30+00:00 |
arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google