Adaptive Linear Estimating Equations

要約

逐次データ収集は、データ収集プロセスの効率を高めるために広く採用されている手法として浮上しています。
その利点にもかかわらず、このようなデータ収集メカニズムは統計的推論手順に複雑さをもたらすことがよくあります。
たとえば、適応線形回帰モデルの通常最小二乗 (OLS) 推定器は非正規漸近動作を示す可能性があり、正確な推論と解釈に課題が生じます。
この論文では、この問題を解決する偏りのない推定器を構築するための一般的な方法を提案します。
これは、適応線形推定方程式の考え方を利用し、漸近正規性の理論的保証を確立し、最適に近い漸近分散の達成に関する議論によって補足されます。
私たちの推定器の顕著な特徴は、マルチアームバンディットのコンテキストにおいて、私たちの推定器が最小二乗推定器の非漸近性能を維持しながら、漸近的な正規性特性を取得していることです。
したがって、この研究は、適応推論の 2 つの有益なパラダイム、a) 濃度不等式を使用した非漸近推論、および b) 漸近正規性による漸近推論を結び付けるのに役立ちます。

要約(オリジナル)

Sequential data collection has emerged as a widely adopted technique for enhancing the efficiency of data gathering processes. Despite its advantages, such data collection mechanism often introduces complexities to the statistical inference procedure. For instance, the ordinary least squares (OLS) estimator in an adaptive linear regression model can exhibit non-normal asymptotic behavior, posing challenges for accurate inference and interpretation. In this paper, we propose a general method for constructing debiased estimator which remedies this issue. It makes use of the idea of adaptive linear estimating equations, and we establish theoretical guarantees of asymptotic normality, supplemented by discussions on achieving near-optimal asymptotic variance. A salient feature of our estimator is that in the context of multi-armed bandits, our estimator retains the non-asymptotic performance of the least square estimator while obtaining asymptotic normality property. Consequently, this work helps connect two fruitful paradigms of adaptive inference: a) non-asymptotic inference using concentration inequalities and b) asymptotic inference via asymptotic normality.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google