The Decoupled Risk Landscape in Performative Prediction

要約

パフォーマンス予測は、モデルを展開すると、個人の機能を変更したり、拒否後に銀行ローンを再申請するなど、入力データの分布シフトを誘導するシナリオに対処します。
文献には、収束の数学的保証（安定または最適なポイントまで）を与える理論的視点がありました。
私たちは、損失の状況の視覚化は、この理論的進歩を実用的な洞察で補完できると考えています。
したがって、（1）パフォーマンスの予測がある2段階のプロセスにインスパイアされた単純な分離リスク視覚化方法を導入します。
私たちのアプローチは、モデルパラメーターとデータパラメーターの2つのパラメーターベクトルに関するリスクランドスケープを視覚化します。
この方法を使用して、関心ポイントの新しいプロパティを提案し、既存のアルゴリズムがリスクランドスケープを通過する方法を調べ、非線形モデルを使用した戦略的分類を含むより現実的な条件下で実行する方法を調べます。
（2）この分離されたリスクの視覚化に基づいて、分布が意思決定モデルとは異なるモデルに反応するシナリオをキャプチャする新しい設定 – 拡張性能予測 – を導入し、エージェントが展開されたモデルへの完全なアクセスをしばしば欠いているという現実を反映しています。

要約(オリジナル)

Performative Prediction addresses scenarios where deploying a model induces a distribution shift in the input data, such as individuals modifying their features and reapplying for a bank loan after rejection. Literature has had a theoretical perspective giving mathematical guarantees for convergence (either to the stable or optimal point). We believe that visualization of the loss landscape can complement this theoretical advances with practical insights. Therefore, (1) we introduce a simple decoupled risk visualization method inspired in the two-step process that performative prediction is. Our approach visualizes the risk landscape with respect to two parameter vectors: model parameters and data parameters. We use this method to propose new properties of the interest points, to examine how existing algorithms traverse the risk landscape and perform under more realistic conditions, including strategic classification with non-linear models. (2) Building on this decoupled risk visualization, we introduce a novel setting – extended Performative Prediction – which captures scenarios where the distribution reacts to a model different from the decision-making one, reflecting the reality that agents often lack full access to the deployed model.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google