Extracting individual variable information for their decoupling, direct mutual information and multi-feature Granger causality

要約

複数の変数を扱う場合、通常、制御が難しい複雑な依存関係が含まれます。
この記事では、個人情報の抽出を提案します。
$\overline{X|Y}$ を $X$ の情報を含む確率変数として使用しますが、$(x,y) \leftrightarrow (\bar{x}=\textrm{CDF} を使用することで $Y$ に関する情報が削除されます)
_{X|Y=y}(x),y)$ 可逆正規化。
アプリケーションの 1 つは、変数の個々の情報を分離することです。同じ情報を含む $(X_1,\ldots,X_n)\leftrightarrow(\tilde{X}_1,\ldots \tilde{X}_n)$ を可逆的に変換します。
独立: $\forall_{i\neq j} \tilde{X}_i\perp \tilde{X}_j, \tilde{X}_i\perp X_j$。
これには、複雑な条件付き確率分布の詳細なモデルが必要です。これは一般に困難な作業ですが、不完全な手法 (ここでは HCR: 階層相関再構成) を使用して依存関係を軽減する複数の反復を通じて実行できます。
また、中間変数を使用せずに直接相互情報を評価するために使用することもできます。
因果関係の方向については、複数の特徴を持つグレンジャー因果関係が議論されています。
伝播時間 (遅延) を含む、そのような分離された変数間のさまざまな種類の個別の情報転送を追跡します。

要約(オリジナル)

Working with multiple variables they usually contain difficult to control complex dependencies. This article proposes extraction of their individual information, e.g. $\overline{X|Y}$ as random variable containing information from $X$, but with removed information about $Y$, by using $(x,y) \leftrightarrow (\bar{x}=\textrm{CDF}_{X|Y=y}(x),y)$ reversible normalization. One application can be decoupling of individual information of variables: reversibly transform $(X_1,\ldots,X_n)\leftrightarrow(\tilde{X}_1,\ldots \tilde{X}_n)$ together containing the same information, but being independent: $\forall_{i\neq j} \tilde{X}_i\perp \tilde{X}_j, \tilde{X}_i\perp X_j$. It requires detailed models of complex conditional probability distributions – it is generally a difficult task, but here can be done through multiple dependency reducing iterations, using imperfect methods (here HCR: Hierarchical Correlation Reconstruction). It could be also used for direct mutual information – evaluating direct information transfer: without use of intermediate variables. For causality direction there is discussed multi-feature Granger causality, e.g. to trace various types of individual information transfers between such decoupled variables, including propagation time (delay).

arxiv情報

提供元, 利用サービス

arxiv.jp, Google