Enabling Uncertainty Estimation in Iterative Neural Networks

要約

パススルー ネットワーク アーキテクチャを、独自の出力を入力として使用する反復型ネットワーク アーキテクチャに変えることは、パフォーマンスを向上させるためのよく知られたアプローチです。
この論文では、このようなアーキテクチャには追加の利点があると主張します。つまり、連続する出力の収束率は、その出力が収束する値の精度と高度に相関しています。
したがって、収束率を不確実性の有用な代用として使用できます。
これにより、アンサンブルなどの手法よりもはるかに低い計算コストで、元の反復モデルに一切の変更を加えることなく、最先端の推定を提供する不確実性推定へのアプローチが実現します。
私たちは、航空画像での道路検出と 2D および 3D 形状の空力特性の推定という 2 つのアプリケーション ドメインにそれを組み込むことによって、その実用的な価値を実証します。

要約(オリジナル)

Turning pass-through network architectures into iterative ones, which use their own output as input, is a well-known approach for boosting performance. In this paper, we argue that such architectures offer an additional benefit: The convergence rate of their successive outputs is highly correlated with the accuracy of the value to which they converge. Thus, we can use the convergence rate as a useful proxy for uncertainty. This results in an approach to uncertainty estimation that provides state-of-the-art estimates at a much lower computational cost than techniques like Ensembles, and without requiring any modifications to the original iterative model. We demonstrate its practical value by embedding it in two application domains: road detection in aerial images and the estimation of aerodynamic properties of 2D and 3D shapes.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google