Exact Generalization Guarantees for (Regularized) Wasserstein Distributionally Robust Models

要約

Wasserstein の分布的に堅牢な推定量は、不確実性の下での予測と意思決定のための強力なモデルとして登場しました。
これらの推定量は、魅力的な一般化保証を提供します。トレーニング分布から得られる堅牢な目標は、高い確率で真のリスクの正確な上限です。
ただし、既存の保証は次元の呪いに悩まされているか、特定の設定に制限されているか、または偽のエラー項を引き起こしています。
この論文では、これらの一般化保証がモデルの一般クラスに実際に適用され、次元の呪いに悩まされず、テスト時の分布の変化さえもカバーできることを示します。
また、これらの結果が、Wasserstein の分布的に堅牢な問題の新たに導入された正規化バージョンにも引き継がれることも証明します。

要約(オリジナル)

Wasserstein distributionally robust estimators have emerged as powerful models for prediction and decision-making under uncertainty. These estimators provide attractive generalization guarantees: the robust objective obtained from the training distribution is an exact upper bound on the true risk with high probability. However, existing guarantees either suffer from the curse of dimensionality, are restricted to specific settings, or lead to spurious error terms. In this paper, we show that these generalization guarantees actually hold on general classes of models, do not suffer from the curse of dimensionality, and can even cover distribution shifts at testing. We also prove that these results carry over to the newly-introduced regularized versions of Wasserstein distributionally robust problems.

arxiv情報

著者 Waïss Azizian,Franck Iutzeler,Jérôme Malick
発行日 2023-05-26 16:35:57+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.ML パーマリンク