Multi-Modal Conformal Prediction Regions with Simple Structures by Optimizing Convex Shape Templates

要約

等角予測は、高い確率で有効な機械学習モデルの予測領域を生成するための統計ツールです。
等角予測アルゴリズムの重要なコンポーネントは、モデルの予測が未知のグランドトゥルース値とどの程度異なるかを定量化する \emph{不適合スコア関数} です。
基本的に、これらの関数は等角予測領域の形状とサイズを決定します。
これまでの研究では、マルチモデル予測領域を生成するスコア関数の作成が行われてきましたが、そのような領域は一般に複雑すぎて、下流の計画や制御の問題に使用できません。
私たちは、キャリブレーション データに対してパラメーター化された \emph{形状テンプレート関数} を最適化する方法を提案します。これにより、最小体積の予測領域を生成する不適合スコア関数が得られます。
私たちのアプローチの結果、予測領域は \emph{マルチモーダル} になるため、複数のモードを持つ分布の残差を適切に捉えることができ、 \emph{実用的} になるため、各領域は凸型となり、下流のタスクに簡単に組み込むことができます。
等角予測領域を使用するモーション プランナーなど。
私たちの方法は一般的な教師あり学習タスクに適用されますが、時系列予測での使用例を示します。
私たちはツールボックスを提供し、F16 戦闘機と自動運転車の事例研究を示し、円形のベースライン領域と比較して予測領域面積が最大 $68\%$ 削減されることを示しています。

要約(オリジナル)

Conformal prediction is a statistical tool for producing prediction regions for machine learning models that are valid with high probability. A key component of conformal prediction algorithms is a \emph{non-conformity score function} that quantifies how different a model’s prediction is from the unknown ground truth value. Essentially, these functions determine the shape and the size of the conformal prediction regions. While prior work has gone into creating score functions that produce multi-model prediction regions, such regions are generally too complex for use in downstream planning and control problems. We propose a method that optimizes parameterized \emph{shape template functions} over calibration data, which results in non-conformity score functions that produce prediction regions with minimum volume. Our approach results in prediction regions that are \emph{multi-modal}, so they can properly capture residuals of distributions that have multiple modes, and \emph{practical}, so each region is convex and can be easily incorporated into downstream tasks, such as a motion planner using conformal prediction regions. Our method applies to general supervised learning tasks, while we illustrate its use in time-series prediction. We provide a toolbox and present illustrative case studies of F16 fighter jets and autonomous vehicles, showing an up to $68\%$ reduction in prediction region area compared to a circular baseline region.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google