Feedback-Driven Pseudo-Label Reliability Assessment: Redefining Thresholding for Semi-Supervised Semantic Segmentation

要約

半教師の学習は、完全に監視されたアプローチの制限に対処するために、モデルのパフォーマンスを向上させるために非標識データを活用します。
その戦略の中で、擬似監督は非常に効果的であることが証明されており、通常、学生ネットワークをトレーニングする前に1つまたは複数の教師ネットワークに依存して擬似ラベルを改良しています。
擬似監督の一般的な慣行は、事前に定義された信頼性のしきい値またはエントロピーに基づいて擬似ラベルをフィルタリングすることです。
ただし、最適なしきい値を選択するには、現実世界の監視シナリオではしばしば希少な大きなラベル付きデータセットが必要です。
この課題を克服するために、擬似ラベル選択のための動的なフィードバック駆動型のしきい値戦略であるアンサンブルオブコンフィデンス強化（ENCORE）を提案します。
静的な信頼性のしきい値に依存する代わりに、アンコールは、ラベルのないデータセット内のクラスごとの真の陽性信頼性を推定し、異なるレベルの擬似ラベルフィルタリングに対するモデルの応答に基づいてしきい値を継続的に調整します。
このフィードバック駆動型メカニズムは、信頼できないものをフィルタリングしながら、有益な擬似ラベルの保持を保証し、手動のしきい値調整なしのモデルトレーニングを強化します。
この方法は、既存の擬似スーパービジョンフレームワークにシームレスに統合され、特にデータスカース条件でのセグメンテーションパフォーマンスを大幅に改善します。
広範な実験では、Encoreと既存の擬似スーパービジョンフレームワークを統合することで、複数のデータセットとネットワークアーキテクチャにわたってパフォーマンスが向上し、半教師の学習における有効性が検証されることが示されています。

要約(オリジナル)

Semi-supervised learning leverages unlabeled data to enhance model performance, addressing the limitations of fully supervised approaches. Among its strategies, pseudo-supervision has proven highly effective, typically relying on one or multiple teacher networks to refine pseudo-labels before training a student network. A common practice in pseudo-supervision is filtering pseudo-labels based on pre-defined confidence thresholds or entropy. However, selecting optimal thresholds requires large labeled datasets, which are often scarce in real-world semi-supervised scenarios. To overcome this challenge, we propose Ensemble-of-Confidence Reinforcement (ENCORE), a dynamic feedback-driven thresholding strategy for pseudo-label selection. Instead of relying on static confidence thresholds, ENCORE estimates class-wise true-positive confidence within the unlabeled dataset and continuously adjusts thresholds based on the model’s response to different levels of pseudo-label filtering. This feedback-driven mechanism ensures the retention of informative pseudo-labels while filtering unreliable ones, enhancing model training without manual threshold tuning. Our method seamlessly integrates into existing pseudo-supervision frameworks and significantly improves segmentation performance, particularly in data-scarce conditions. Extensive experiments demonstrate that integrating ENCORE with existing pseudo-supervision frameworks enhances performance across multiple datasets and network architectures, validating its effectiveness in semi-supervised learning.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google