Adaptive Refinement Protocols for Distributed Distribution Estimation under $\ell^p$-Losses

要約

$\ell^p$ 損失の下での離散分布の通信制約推定を考えてみましょう。各分散端末は複数の独立したサンプルを保持し、サンプルを記述するために限られた数のビットを使用します。
ほとんどのパラメータ領域で問題の最小最適レートを取得します。
$p=2$ における最適レートのエルボ効果が明確に識別されます。
最適なレートを示すために、まずそれらを達成するための推定プロトコルを設計します。
これらのプロトコルの重要な要素は、最初に部分情報によって大まかな推定値を生成し、次にその大まかな推定値に基づいて後続のステップで洗練された推定値を確立する、適応的リファインメント メカニズムを導入することです。
このプロトコルは、連続的な改良、サンプル圧縮、しきい値処理、およびランダム ハッシュ手法を活用して、さまざまなパラメーター領域で最適なレートを実現します。
プロトコルの最適性は、互換性のあるミニマックスの下限を導出することで示されます。

要約(オリジナル)

Consider the communication-constrained estimation of discrete distributions under $\ell^p$ losses, where each distributed terminal holds multiple independent samples and uses limited number of bits to describe the samples. We obtain the minimax optimal rates of the problem in most parameter regimes. An elbow effect of the optimal rates at $p=2$ is clearly identified. To show the optimal rates, we first design estimation protocols to achieve them. The key ingredient of these protocols is to introduce adaptive refinement mechanisms, which first generate rough estimate by partial information and then establish refined estimate in subsequent steps guided by the rough estimate. The protocols leverage successive refinement, sample compression, thresholding and random hashing methods to achieve the optimal rates in different parameter regimes. The optimality of the protocols is shown by deriving compatible minimax lower bounds.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google