Nonstationary Sparse Spectral Permanental Process

要約

既存の永続過程はカーネルの種類や定常性に制約を課していることが多く、モデルの表現力を制限している。これらの制約を克服するために、我々は非定常カーネルのスパーススペクトル表現を利用した新しいアプローチを提案する。この手法により、カーネルの種類や定常性の制約が緩和され、計算量を線形レベルまで削減しつつ、より柔軟なモデリングが可能となる。さらに、複数のスペクトル特徴マッピングを階層的に積み重ねることで、ディープカーネルの変種を導入し、データの複雑なパターンを捉えるモデルの表現力をさらに強化する。合成データセットと実データセットの両方を用いた実験結果は、特にデータの非定常性が顕著なシナリオにおいて、我々のアプローチの有効性を実証している。さらに、様々なハイパーパラメータがモデルの性能に与える影響について洞察するために、アブレーション研究も行った。

要約(オリジナル)

Existing permanental processes often impose constraints on kernel types or stationarity, limiting the model’s expressiveness. To overcome these limitations, we propose a novel approach utilizing the sparse spectral representation of nonstationary kernels. This technique relaxes the constraints on kernel types and stationarity, allowing for more flexible modeling while reducing computational complexity to the linear level. Additionally, we introduce a deep kernel variant by hierarchically stacking multiple spectral feature mappings, further enhancing the model’s expressiveness to capture complex patterns in data. Experimental results on both synthetic and real-world datasets demonstrate the effectiveness of our approach, particularly in scenarios with pronounced data nonstationarity. Additionally, ablation studies are conducted to provide insights into the impact of various hyperparameters on model performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL