TMLC-Net: Transferable Meta Label Correction for Noisy Label Learning

要約

実際のデータセットにおける騒々しいラベルの有病率は、深い学習モデルの効果的な展開に大きな障害をもたらします。
メタ学習戦略は、この課題に対処するための有望なアプローチとして浮上していますが、既存の方法は、限られた移転可能性とタスク固有の設計に苦しむことがよくあります。
このペーパーでは、これらの制限を克服するために設計されたノイズの多いラベルを修正するための新しい移転可能なメタ学習者であるTMLC-NETを紹介します。
TMLC-NETは、広範な再訓練や微調整を必要とせずに、多様なデータセットとモデルアーキテクチャに容易に適用できる汎用ラベル修正戦略を学習します。
当社のアプローチは、3つのコアコンポーネントを統合します。（1）トレーニングダイナミクスをキャプチャおよび正規化して分布シフトを処理する正規化されたノイズ知覚。
（2）再発性ニューラルネットワークを使用したサンプル統計の時間的進化をモデル化する時系列エンコーディング。
（3）学習表現に基づいて修正されたラベル分布を予測するサブクラスデコード。
さまざまなノイズタイプとレベルを持つベンチマークデータセットで広範な実験を実施し、TMLC-NETがノイズラベルを付ける精度と堅牢性の両方の点で最新の方法を常に上回ることを示しています。
さらに、TMLC-NETの転送可能性を分析し、新しいデータセットとノイズ条件への適応性を示し、騒々しい環境での堅牢な深い学習のための広く適用可能なソリューションとしての可能性を確立します。

要約(オリジナル)

The prevalence of noisy labels in real-world datasets poses a significant impediment to the effective deployment of deep learning models. While meta-learning strategies have emerged as a promising approach for addressing this challenge, existing methods often suffer from limited transferability and task-specific designs. This paper introduces TMLC-Net, a novel Transferable Meta-Learner for Correcting Noisy Labels, designed to overcome these limitations. TMLC-Net learns a general-purpose label correction strategy that can be readily applied across diverse datasets and model architectures without requiring extensive retraining or fine-tuning. Our approach integrates three core components: (1) Normalized Noise Perception, which captures and normalizes training dynamics to handle distribution shifts; (2) Time-Series Encoding, which models the temporal evolution of sample statistics using a recurrent neural network; and (3) Subclass Decoding, which predicts a corrected label distribution based on the learned representations. We conduct extensive experiments on benchmark datasets with various noise types and levels, demonstrating that TMLC-Net consistently outperforms state-of-the-art methods in terms of both accuracy and robustness to label noise. Furthermore, we analyze the transferability of TMLC-Net, showcasing its adaptability to new datasets and noise conditions, and establishing its potential as a broadly applicable solution for robust deep learning in noisy environments.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google