Attribution-aware Weight Transfer: A Warm-Start Initialization for Class-Incremental Semantic Segmentation

要約

クラス増分セマンティック セグメンテーション (CISS) では、ディープ ラーニング アーキテクチャは壊滅的な忘却とセマンティック バックグラウンド シフトという重大な問題に悩まされています。
最近の研究ではこれらの問題に焦点が当てられていましたが、既存の分類器の初期化メソッドは背景シフトの問題に対処しておらず、背景と新しい前景クラス分類器の両方に同じ初期化重みを割り当てていません。
勾配ベースの属性を使用して、以前の背景の分類子の重みから新しいクラスに最も関連する重みを特定し、これらの重みを新しい分類子に転送する新しい分類子初期化方法で背景シフトに対処することを提案します。
このウォーム スタートの重みの初期化は、いくつかの CISS メソッドに適用可能な一般的なソリューションを提供します。
さらに、忘れを軽減しながら、新しいクラスの学習を加速します。
私たちの実験は、Pascal-VOC 2012、ADE20K、Cityscapes データセットでの最先端の CISS メソッドと比較して、mIoU の大幅な改善を示しています。

要約(オリジナル)

In class-incremental semantic segmentation (CISS), deep learning architectures suffer from the critical problems of catastrophic forgetting and semantic background shift. Although recent works focused on these issues, existing classifier initialization methods do not address the background shift problem and assign the same initialization weights to both background and new foreground class classifiers. We propose to address the background shift with a novel classifier initialization method which employs gradient-based attribution to identify the most relevant weights for new classes from the classifier’s weights for the previous background and transfers these weights to the new classifier. This warm-start weight initialization provides a general solution applicable to several CISS methods. Furthermore, it accelerates learning of new classes while mitigating forgetting. Our experiments demonstrate significant improvement in mIoU compared to the state-of-the-art CISS methods on the Pascal-VOC 2012, ADE20K and Cityscapes datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google