Enhancing Monte Carlo Dropout Performance for Uncertainty Quantification

要約

深いニューラルネットワークの出力に関連する不確実性を知ることは、特に医療診断や自律システムなどの高品質の分野で、信頼できる決定を下す上で最も重要です。
モンテカルロドロップアウト（MCD）は、さまざまな深いアーキテクチャに簡単に統合できるため、不確実性の定量化のために広く使用されている方法です。
ただし、従来のMCDはしばしば、十分に調整された不確実性の推定値を提供することに苦労しています。
これに対処するために、さまざまな検索ソリューション、すなわちグレーウルフオプティマイザー（GWO）、ベイジアン最適化（BO）、および粒子群群最適化（PSO）を統合することにより、MCDを強化する革新的なフレームワークを導入し、不確実性に対応する損失機能を導入し、不確実性の定量化の信頼性を改善します。
猫対犬、犬、心筋炎、ウィスコンシン、および合成データセット（サークル）など、さまざまなデータセットで、さまざまなバックボーン、すなわちデンセネット121、ResNet50、およびVGG16を使用して包括的な実験を実施します。
提案されたアルゴリズムは、従来の精度と不確実性の精度の両方の点で、平均してMCDベースラインを平均2〜3％上回り、大幅に優れたキャリブレーションを達成します。
これらの結果は、安全性の高いアプリケーションにおける深い学習モデルの信頼性を高めるためのアプローチの可能性を強調しています。

要約(オリジナル)

Knowing the uncertainty associated with the output of a deep neural network is of paramount importance in making trustworthy decisions, particularly in high-stakes fields like medical diagnosis and autonomous systems. Monte Carlo Dropout (MCD) is a widely used method for uncertainty quantification, as it can be easily integrated into various deep architectures. However, conventional MCD often struggles with providing well-calibrated uncertainty estimates. To address this, we introduce innovative frameworks that enhances MCD by integrating different search solutions namely Grey Wolf Optimizer (GWO), Bayesian Optimization (BO), and Particle Swarm Optimization (PSO) as well as an uncertainty-aware loss function, thereby improving the reliability of uncertainty quantification. We conduct comprehensive experiments using different backbones, namely DenseNet121, ResNet50, and VGG16, on various datasets, including Cats vs. Dogs, Myocarditis, Wisconsin, and a synthetic dataset (Circles). Our proposed algorithm outperforms the MCD baseline by 2-3% on average in terms of both conventional accuracy and uncertainty accuracy while achieving significantly better calibration. These results highlight the potential of our approach to enhance the trustworthiness of deep learning models in safety-critical applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google