Investigating Calibration and Corruption Robustness of Post-hoc Pruned Perception CNNs: An Image Classification Benchmark Study

要約

畳み込みニューラル ネットワーク (CNN) は、多くのコンピューター ビジョン タスクにおいて最先端のパフォーマンスを達成しています。
ただし、高いコンピューティングとストレージの要求により、組み込みデバイスなどのリソースに制約のある環境への導入が妨げられます。
モデルの枝刈りは、優れたパフォーマンスを維持しながらモデルのサイズを削減することで、これらの制限を満たすのに役立ちます。
一方、セーフティクリティカルなアプリケーションは、リソースとパフォーマンスの制約だけではありません。
特に、予測は過信してはなりません。つまり、適切に調整された不確実性の推定値 (適切な不確実性の調整) を提供する必要があり、CNN は自然に発生する入力摂動などの破損に対して堅牢でなければなりません (自然破損の堅牢性)。
この研究では、画像分類タスクのコンテキストにおける、不確実性のキャリブレーション、自然破損の堅牢性、および現在の研究状況のポストホック CNN プルーニング技術のパフォーマンスの間の重要なトレードオフを調査します。
私たちの研究は、ポストホック枝刈りがモデルの不確実性のキャリブレーション、パフォーマンス、および自然破損の堅牢性を大幅に向上させ、安全で堅牢な組み込み CNN への期待を引き起こしていることを明らかにしました。さらに、不確実性のキャリブレーションと自然破損の堅牢性は、枝刈りの下で相互に排他的な目標ではありません。
圧縮を増加させたポストホックな非構造化プルーニングによって得られる安全性の側面の向上。

要約(オリジナル)

Convolutional Neural Networks (CNNs) have achieved state-of-the-art performance in many computer vision tasks. However, high computational and storage demands hinder their deployment into resource-constrained environments, such as embedded devices. Model pruning helps to meet these restrictions by reducing the model size, while maintaining superior performance. Meanwhile, safety-critical applications pose more than just resource and performance constraints. In particular, predictions must not be overly confident, i.e., provide properly calibrated uncertainty estimations (proper uncertainty calibration), and CNNs must be robust against corruptions like naturally occurring input perturbations (natural corruption robustness). This work investigates the important trade-off between uncertainty calibration, natural corruption robustness, and performance for current state-of-research post-hoc CNN pruning techniques in the context of image classification tasks. Our study reveals that post-hoc pruning substantially improves the model’s uncertainty calibration, performance, and natural corruption robustness, sparking hope for safe and robust embedded CNNs.Furthermore, uncertainty calibration and natural corruption robustness are not mutually exclusive targets under pruning, as evidenced by the improved safety aspects obtained by post-hoc unstructured pruning with increasing compression.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google