Normalizing Flows for Conformal Regression

要約

等角予測 (CP) アルゴリズムは、ラベル付きデータの出力を校正することにより、予測モデルの不確実性を推定します。
通常、同じキャリブレーション スキームが、変更せずにどのモデルやデータにも適用されます。
取得された予測区間は構造上有効ですが、予測誤差が入力空間全体に均一に分散されていない場合、非効率になる、つまり不必要に大きくなる可能性があります。
キャリブレーションプロセスをトレーニングすることで間隔を局所化するための一般的なスキームを紹介します。
標準の予測誤差は、オブジェクトの属性に明示的に依存する最適化された距離メトリックに置き換えられます。
最適なメトリクスを学習することは、誤差と入力の結合分布に作用する正規化フローをトレーニングすることと同じです。
Papadopoulos らの Error Reweighting CP アルゴリズムとは異なります。
(2008) によると、このフレームワークにより、条件の名目上の妥当性と経験的な条件の妥当性の間のギャップを推定することができます。
このアプローチは、キャ​​リブレーション サンプルの再重み付けに基づく既存の局所適応 CP 戦略と互換性があり、再トレーニングせずにあらゆる点予測モデルに適用されます。

要約(オリジナル)

Conformal Prediction (CP) algorithms estimate the uncertainty of a prediction model by calibrating its outputs on labeled data. The same calibration scheme usually applies to any model and data without modifications. The obtained prediction intervals are valid by construction but could be inefficient, i.e. unnecessarily big, if the prediction errors are not uniformly distributed over the input space. We present a general scheme to localize the intervals by training the calibration process. The standard prediction error is replaced by an optimized distance metric that depends explicitly on the object attributes. Learning the optimal metric is equivalent to training a Normalizing Flow that acts on the joint distribution of the errors and the inputs. Unlike the Error Reweighting CP algorithm of Papadopoulos et al. (2008), the framework allows estimating the gap between nominal and empirical conditional validity. The approach is compatible with existing locally-adaptive CP strategies based on re-weighting the calibration samples and applies to any point-prediction model without retraining.

arxiv情報

著者 Nicolo Colombo
発行日 2024-06-26 15:55:02+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, math.PR, stat.ML パーマリンク