GPTreeO: An R package for continual regression with dividing local Gaussian processes

要約

特に継続学習問題に合わせた、スケーラブルなガウス過程 (GP) 回帰用の柔軟な R パッケージである GPTreeO を紹介します。
GPTreeO は、ローカル GP リグレッサーのバイナリ ツリーが入力データの連続ストリームを使用して動的に構築される分割ローカル ガウス プロセス (DLGP) アルゴリズムに基づいて構築されています。
GPTreeO では、GP ハイパーパラメータの継続的な最適化を可能にし、不確実性キャリブレーションを組み込み、ローカル パーティションの作成方法に関する新しい戦略を導入することにより、元の DLGP アルゴリズムを拡張します。
さらに、モジュール型コード構造により、ユーザーはお気に入りの GP ライブラリをインターフェイスして、GPTreeO でローカル GP 回帰を実行できます。
GPTreeO の柔軟性により、ユーザーは計算速度、精度、安定性、滑らかさの間のバランスをきめ細かく制御できます。
GPTreeO の構成可能な機能が継続学習設定における回帰パフォーマンスにどのような影響を与えるかを示すために感度分析を実施します。

要約(オリジナル)

We introduce GPTreeO, a flexible R package for scalable Gaussian process (GP) regression, particularly tailored to continual learning problems. GPTreeO builds upon the Dividing Local Gaussian Processes (DLGP) algorithm, in which a binary tree of local GP regressors is dynamically constructed using a continual stream of input data. In GPTreeO we extend the original DLGP algorithm by allowing continual optimisation of the GP hyperparameters, incorporating uncertainty calibration, and introducing new strategies for how the local partitions are created. Moreover, the modular code structure allows users to interface their favourite GP library to perform the local GP regression in GPTreeO. The flexibility of GPTreeO gives the user fine-grained control of the balance between computational speed, accuracy, stability and smoothness. We conduct a sensitivity analysis to show how GPTreeO’s configurable features impact the regression performance in a continual learning setting.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google