Towards Instance-Wise Calibration: Local Amortized Diagnostics and Reshaping of Conditional Densities (LADaR)

要約

複素入力 $\mathbf{x}$ を与えられたターゲット $y$ の条件付き密度推定と生成モデリングへの関心が高まっています。
ただし、既製の手法にはインスタンスごとの調整が欠けていることがよくあります。つまり、個々の入力 $\mathbf{x}$ について、個々の推定確率は、推定値が妥当な場合であっても、真の確率とは大きく異なる可能性があります。
人口全体の平均です。
この論文では、LADaR (Local Amortized Diagnostics and Reshaping of Conditional Densities) フレームワークを紹介し、解釈可能なローカル キャリブレーション診断を生成し、初期モデルを再キャリブレーションするメカニズムを含む $\texttt{Cal-PIT}$ と呼ばれるアルゴリズムを提案します。
$\texttt{Cal-PIT}$ アルゴリズムは、キャリブレーション データから単一のローカル確率マップを学習し、特徴空間全体で修正が必要な箇所を評価および定量化します。
必要に応じて、インスタンスごとの近似キャリブレーションを使用して、初期分布を推定値に再形成します。
$\texttt{Cal-PIT}$ を合成例に適用することで、LADaR フレームワークを説明します。これには、衛星画像から熱帯低気圧の風速を予測するのと同様の、一連の画像を入力として使用する確率的予測が含まれます。
私たちの主な科学応用は、画像データに基づく銀河距離の条件付き密度推定 (いわゆる測光赤方偏移推定) です。
ベンチマーク測光赤方偏移データの課題では、$\texttt{Cal-PIT}$ は、テストした他の 11 の文献手法すべてよりも優れた条件付き密度推定 (条件付き密度推定損失によって測定) を達成しました。
これは、次世代の弱い重力レンズ解析における厳しい測光赤方偏移要件を満たす可能性があることを示しています。

要約(オリジナル)

There is a growing interest in conditional density estimation and generative modeling of a target $y$ given complex inputs $\mathbf{x}$. However, off-the-shelf methods often lack instance-wise calibration — that is, for individual inputs $\mathbf{x}$, the individual estimated probabilities can be very different from the true probabilities, even when the estimates are reasonable when averaged over the entire population. This paper introduces the LADaR (Local Amortized Diagnostics and Reshaping of Conditional Densities) framework and proposes an algorithm called $\texttt{Cal-PIT}$ that produces interpretable local calibration diagnostics and includes a mechanism to recalibrate the initial model. Our $\texttt{Cal-PIT}$ algorithm learns a single local probability-probability map from calibration data to assess and quantify where corrections are needed across the feature space. When necessary, it reshapes the initial distribution into an estimate with approximate instance-wise calibration. We illustrate the LADaR framework by applying $\texttt{Cal-PIT}$ to synthetic examples, including probabilistic forecasting with sequences of images as inputs, akin to predicting the wind speed of tropical cyclones from satellite imagery. Our main science application is conditional density estimation of galaxy distances given imaging data (so-called photometric redshift estimation). On a benchmark photometric redshift data challenge, $\texttt{Cal-PIT}$ achieves better conditional density estimation (as measured by the conditional density estimation loss) than all 11 other literature methods tested. This demonstrates its potential for meeting the stringent photometric redshift requirements for next generation weak gravitational lensing analyses.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google