Nonsmooth Implicit Differentiation: Deterministic and Stochastic Convergence Rates

要約

パラメトリック非微分可能収縮マップの固定小数点の導関数を効率的に計算する問題を研究します。
この問題は、ハイパーパラメータの最適化、メタ学習、データポイズニング攻撃など、機械学習に幅広く応用されています。
反復微分 (ITD) と近似陰的微分 (AID) という 2 つの一般的なアプローチを分析します。
スムーズではない設定の背後にある重要な課題は、チェーン ルールがもはや成り立たないことです。
ボルトらによる最近の研究に基づいて構築されています。
(2022) は、微分不可能な ITD の線形収束を証明しました。我々は、決定論的な場合における ITD と AID の両方の洗練された線形収束率を提供します。
さらに、固定点が外側マップと内側マップの合成として定義されている場合に、陰的導関数を計算する新しい方法である NSID を導入します。これは、確率的不偏推定器を通じてのみアクセス可能です。
NSID を真の導関数に収束させるためのレートを確立し、スムーズな設定で利用可能な最良のレートを網羅します。
私たちの分析を裏付ける実験例を示します。

要約(オリジナル)

We study the problem of efficiently computing the derivative of the fixed-point of a parametric non-differentiable contraction map. This problem has wide applications in machine learning, including hyperparameter optimization, meta-learning and data poisoning attacks. We analyze two popular approaches: iterative differentiation (ITD) and approximate implicit differentiation (AID). A key challenge behind the nonsmooth setting is that the chain rule does not hold anymore. Building upon the recent work by Bolte et al. (2022), who proved the linear convergence of non-differentiable ITD, we provide refined linear convergence rates for both ITD and AID in the deterministic case. We further introduce NSID, a new method to compute the implicit derivative when the fixed point is defined as the composition of an outer map and an inner map which is accessible only through a stochastic unbiased estimator. We establish rates for the convergence of NSID to the true derivative, encompassing the best available rates in the smooth setting. We present illustrative experiments confirming our analysis.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google