Conformal online model aggregation

要約

等角予測により、強力な分布仮定を行うことなく、機械学習モデルに不確実性の定量化に関する合理的な概念が備わります。
これは、ブラックボックス予測モデルをラップアラウンドし、ポイント予測を、事前定義された限界範囲保証を持つセット予測に変換します。
ただし、等角予測は、基礎となる機械学習モデルを事前に修正した場合にのみ機能します。
等角予測における比較的未解決の問題は、モデルの選択や集約に関する問題です。特定の問題に対して、多数の予測方法 (ランダム フォレスト、ニューラル ネットワーク、正則化線形モデルなど) のどれを等角化すべきでしょうか?
この論文では、オンライン設定における等角モデル集約に対する新しいアプローチを提案します。これは、投票によって複数のアルゴリズムからの予測セットを組み合わせることに基づいており、モデルの重みは過去のパフォーマンスに基づいて時間の経過とともに適応されます。

要約(オリジナル)

Conformal prediction equips machine learning models with a reasonable notion of uncertainty quantification without making strong distributional assumptions. It wraps around any black-box prediction model and converts point predictions into set predictions that have a predefined marginal coverage guarantee. However, conformal prediction only works if we fix the underlying machine learning model in advance. A relatively unaddressed issue in conformal prediction is that of model selection and/or aggregation: for a given problem, which of the plethora of prediction methods (random forests, neural nets, regularized linear models, etc.) should we conformalize? This paper proposes a new approach towards conformal model aggregation in online settings that is based on combining the prediction sets from several algorithms by voting, where weights on the models are adapted over time based on past performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google