Borsuk-Ulam and Replicable Learning of Large-Margin Halfspaces

要約

学習理論における最近の顕著な進歩により、総概念クラスについては、複製可能性、グローバルな安定性、差別的にプライベートな（DP）学習性、共有ランダム性の複製可能性がすべてリトルストーンディメンションの有限性と一致することが確立されています。
この等価性は部分的な概念クラスにまで及びますか？
リストの複製可能性数は、$ d $ -dimensional $ \ gamma $ -marginの半スペースの複製数が\ [\ frac {d} {2} +1 \ le \ mathrm {lr}（h^d_ \ gamma）\ le d、\]寸法の栽培を満たしていることを証明することにより、この質問に答えます。
したがって、部分的なクラスの場合、リストの複製可能性とグローバルな安定性は、境界のあるリトルストーンの寸法、純粋なDP-Learnability、または共有ランダム性の複製可能性から必ずしも続くわけではありません。
私たちの主要な定理を適用すると、いくつかの未解決の問題を解決します：$ \ bullet $は、総概念クラスへの無限の次元の大規模な半分スペースのすべての分解に、アロン、ハンネケ、ホルツマン、モラン（Focs ’21）の未解決の問題に答えていません。
$ \ bullet $ $ d $ dimensional euclideanスペースの有限のポイントセットと均一な半分スペースの最大リストの数字の数は、$ d $であり、追跡、モラン、Yehudayoff（Focs ’23）の問題を解決します。
$ \ bullet $大規模なギャップ体制のギャップハミング距離問題のあらゆる分解には、公開されていないパブリックコインランダム化通信の複雑さがあります。
これは、牙、g \ ‘o \’ os、harms、and hatami（Stoc ’25）の未解決の質問に答えます。
私たちの下限は、Chase、Chornomaz、Moran、およびYehudayoff（Stoc ’24）の地元のBorsuk-Ulamの定理に基づいたトポロジカル議論から続きます。
上限については、SVMSの一般化プロパティを使用して、リスト繰り返し可能な学習ルールを構築します。

要約(オリジナル)

Recent remarkable advances in learning theory have established that, for total concept classes, list replicability, global stability, differentially private (DP) learnability, and shared-randomness replicability all coincide with the finiteness of Littlestone dimension. Does this equivalence extend to partial concept classes? We answer this question by proving that the list replicability number of $d$-dimensional $\gamma$-margin half-spaces satisfies \[ \frac{d}{2}+1 \le \mathrm{LR}(H^d_\gamma) \le d, \] which grows with dimension. Consequently, for partial classes, list replicability and global stability do not necessarily follow from bounded Littlestone dimension, pure DP-learnability, or shared-randomness replicability. Applying our main theorem, we resolve several open problems: $\bullet$ Every disambiguation of infinite-dimensional large-margin half-spaces to a total concept class has unbounded Littlestone dimension, answering an open question of Alon, Hanneke, Holzman, and Moran (FOCS ’21). $\bullet$ The maximum list-replicability number of any finite set of points and homogeneous half-spaces in $d$-dimensional Euclidean space is $d$, resolving a problem of Chase, Moran, and Yehudayoff (FOCS ’23). $\bullet$ Every disambiguation of the Gap Hamming Distance problem in the large gap regime has unbounded public-coin randomized communication complexity. This answers an open question of Fang, G\’o\’os, Harms, and Hatami (STOC ’25). Our lower bound follows from a topological argument based on the local Borsuk-Ulam theorem of Chase, Chornomaz, Moran, and Yehudayoff (STOC ’24). For the upper bound, we construct a list-replicable learning rule using the generalization properties of SVMs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google