The Uniformly Rotated Mondrian Kernel

要約

RahimiとRechtによって最初に提案されたランダム機能は、大規模な問題でカーネルマシンの計算コストを削減するために使用されます。
Mondrian Kernelは、Mondrian Processとして知られる入力空間の計算効率的な階層ランダムパーティションによって生成されるラプラスカーネルの高速ランダムフィーチャ近似のそのような例です。
この作業では、均一にランダムに回転したモンドリアンプロセスを使用して、回転下で不変のカーネルを近似することにより、このランダム機能マップのバリエーションを研究します。
この等方性カーネルの閉じた型式を取得し、均一に回転したモンドリアンカーネルの均一な収束速度をこの制限にします。
この目的のために、確率形成ジオメトリにおける定常ランダムテッセレーションの理論からのテクニックを利用し、モンドリアのテッセレーションの均一にランダムな回転の重ね合わせの典型的な細胞のジオメトリに新しい結果を証明します。
最後に、合成データセットと現実世界の両方のデータセットの両方でこのランダム機能マップの経験的パフォーマンスをテストし、紛争データセットでMondrianカーネル上のパフォーマンスの向上を示します。

要約(オリジナル)

First proposed by Rahimi and Recht, random features are used to decrease the computational cost of kernel machines in large-scale problems. The Mondrian kernel is one such example of a fast random feature approximation of the Laplace kernel, generated by a computationally efficient hierarchical random partition of the input space known as the Mondrian process. In this work, we study a variation of this random feature map by using uniformly randomly rotated Mondrian processes to approximate a kernel that is invariant under rotations. We obtain a closed-form expression for this isotropic kernel, as well as a uniform convergence rate of the uniformly rotated Mondrian kernel to this limit. To this end, we utilize techniques from the theory of stationary random tessellations in stochastic geometry and prove a new result on the geometry of the typical cell of the superposition of uniformly random rotations of Mondrian tessellations. Finally, we test the empirical performance of this random feature map on both synthetic and real-world datasets, demonstrating its improved performance over the Mondrian kernel on a debiased dataset.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google