Detecting Signs of Model Change with Continuous Model Selection Based on Descriptive Dimensionality

要約

データ ストリームの背後にあるモデルの変更を検出する問題に対処します。
モデルは、パラメトリック モデルの自由パラメーターの数など、整数値の構造情報を参照します。
具体的には、モデルの変更の兆候を実際に発生する前にどのように検出できるかという問題に関心があります。
この目的のために、{\em 記述次元}~(Ddim) の概念に基づいて {\em 連続モデル選択} を採用します。
モデル遷移期のモデル次元を定量化するために設計された実数値モデル次元です。
連続モデル選択は、与えられたデータから Ddim に関して実数値モデルの次元を決定することです。
データ ストリーム内の Ddim の上昇を追跡することにより、モデルの変更の兆候を検出するための新しい方法論を提案します。
この方法論を適用して、ガウス混合モデルのクラスター数の変化の兆候と、自己回帰モデルの次数の変化の兆候を検出します。
合成データセットと実際のデータセットを使用して、移行期間にモデルの次元がどれだけ速く移動するかをよく視覚化し、既存の方法で検出されるよりも早くモデルの変更の早期警告信号を発することができることを示すことにより、その有効性を経験的に実証します。

要約(オリジナル)

We address the issue of detecting changes of models that lie behind a data stream. The model refers to an integer-valued structural information such as the number of free parameters in a parametric model. Specifically we are concerned with the problem of how we can detect signs of model changes earlier than they are actualized. To this end, we employ {\em continuous model selection} on the basis of the notion of {\em descriptive dimensionality}~(Ddim). It is a real-valued model dimensionality, which is designed for quantifying the model dimensionality in the model transition period. Continuous model selection is to determine the real-valued model dimensionality in terms of Ddim from a given data. We propose a novel methodology for detecting signs of model changes by tracking the rise-up of Ddim in a data stream. We apply this methodology to detecting signs of changes of the number of clusters in a Gaussian mixture model and those of the order in an auto regression model. With synthetic and real data sets, we empirically demonstrate its effectiveness by showing that it is able to visualize well how rapidly model dimensionality moves in the transition period and to raise early warning signals of model changes earlier than they are detected with existing methods.

arxiv情報

著者 Kenji Yamanishi,So Hirai
発行日 2023-02-23 16:10:06+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.ML パーマリンク