Robust Linear Regression: Phase-Transitions and Precise Tradeoffs for General Norms

要約

このペーパーでは、線形回帰モデルに対するテスト時の敵対的攻撃の影響を調査し、標準の予測パフォーマンス (精度) の所定のレベルを維持しながら任意のモデルが達成できる最適な堅牢性レベルを決定します。
定量的な推定を通じて、さまざまな体制における敵対的な堅牢性と精度の間の基本的なトレードオフを明らかにします。
標準精度を損なうことなく堅牢性を達成できる領域と、トレードオフが避けられない領域を区別する正確な特性評価が得られます。
私たちの発見は、さまざまな設定を表す簡単な実験によって経験的に確認されています。
この研究は、あらゆる性質の特徴共分散行列と攻撃規範に適用され、この分野における以前の研究を超えて拡張されます。

要約(オリジナル)

In this paper, we investigate the impact of test-time adversarial attacks on linear regression models and determine the optimal level of robustness that any model can reach while maintaining a given level of standard predictive performance (accuracy). Through quantitative estimates, we uncover fundamental tradeoffs between adversarial robustness and accuracy in different regimes. We obtain a precise characterization which distinguishes between regimes where robustness is achievable without hurting standard accuracy and regimes where a tradeoff might be unavoidable. Our findings are empirically confirmed with simple experiments that represent a variety of settings. This work applies to feature covariance matrices and attack norms of any nature, and extends beyond previous works in this area.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google