An Alternate View on Optimal Filtering in an RKHS

要約

カーネル適応フィルタリング (KAF) は、再現カーネル ヒルベルト空間内の関数を検索する数学的原理に基づいた方法です。
これらは時系列予測やシステム識別などのタスクにはうまく機能しますが、トレーニング サンプルの数とモデル サイズの間の線形関係に悩まされており、今日のデータが飽和した世界では一般的な非常に大規模なデータ セットでの使用が妨げられています。
以前の方法では、スパース化によってこの問題を解決しようとしました。
我々は、必ずしもモデル サイズが直線的に増加するわけではない RKHS における解決策への道を提供する可能性がある、最適なフィルター処理の新しいビューについて説明します。
これを行うには、確率過程の時間構造がまだ存在する RKHS を定義します。
共分散関数の考え方を拡張したコレントロピー [11] を使用して、潜在的に非線形の望ましいマッピング関数を記述する時間ベースの汎関数を作成します。
この形式のソリューションは、理論的にはウィーナー解と同様のテスト セットでの計算の複雑さを実現しながら、RKHS で関数のより効率的な表現を作成するための実りある一連の研究を提供する可能性があります。

要約(オリジナル)

Kernel Adaptive Filtering (KAF) are mathematically principled methods which search for a function in a Reproducing Kernel Hilbert Space. While they work well for tasks such as time series prediction and system identification they are plagued by a linear relationship between number of training samples and model size, hampering their use on the very large data sets common in today’s data saturated world. Previous methods try to solve this issue by sparsification. We describe a novel view of optimal filtering which may provide a route towards solutions in a RKHS which do not necessarily have this linear growth in model size. We do this by defining a RKHS in which the time structure of a stochastic process is still present. Using correntropy [11], an extension of the idea of a covariance function, we create a time based functional which describes some potentially nonlinear desired mapping function. This form of a solution may provide a fruitful line of research for creating more efficient representations of functionals in a RKHS, while theoretically providing computational complexity in the test set similar to Wiener solution.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google