Conformal Prediction with Learned Features

要約

この論文では、条件付き保証を伴う等角予測の問題に焦点を当てます。
これまでの研究では、完全な条件付きカバレッジを保証する自明でない予測セットを構築することは不可能であることが示されています。
豊富な研究では、事前に定義された不確実性構造に依存して、完全な条件付き保証の緩和が検討されています。
この考え方から離れて、私たちは、キャリブレーション データから不確実性に基づく特徴を学習することによって、予測セットの条件付き妥当性を向上させるフレームワークである分割学習等形予測 (PLCP) を提案します。
既製の機械学習モデルを利用して、交互勾配降下法を使用して PLCP を効率的に実装します。
PLCP を理論的にさらに分析し、無限および有限のサンプル サイズに対する条件付き保証を提供します。
最後に、4 つの現実世界および合成データセットに対する実験結果は、分類シナリオと回帰シナリオの両方におけるカバレッジと長さの点で、最先端の手法と比較して PLCP のパフォーマンスが優れていることを示しています。

要約(オリジナル)

In this paper, we focus on the problem of conformal prediction with conditional guarantees. Prior work has shown that it is impossible to construct nontrivial prediction sets with full conditional coverage guarantees. A wealth of research has considered relaxations of full conditional guarantees, relying on some predefined uncertainty structures. Departing from this line of thinking, we propose Partition Learning Conformal Prediction (PLCP), a framework to improve conditional validity of prediction sets through learning uncertainty-guided features from the calibration data. We implement PLCP efficiently with alternating gradient descent, utilizing off-the-shelf machine learning models. We further analyze PLCP theoretically and provide conditional guarantees for infinite and finite sample sizes. Finally, our experimental results over four real-world and synthetic datasets show the superior performance of PLCP compared to state-of-the-art methods in terms of coverage and length in both classification and regression scenarios.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google