Which bits went where? Past and future transfer entropy decomposition with the information bottleneck

要約

研究対象のシステムが魚の群れであれ、ニューロンの集合であれ、あるいは相互作用する大気と海洋の一連のプロセスであれ、伝達エントロピーは時系列間の情報の流れを測定し、考えられる因果関係を検出できます。
相互情報量と同様に、伝達エントロピーは一般に、共有変動の量を要約した単一の値として報告されますが、より詳細な計算により、研究対象のプロセスについて多くのことが明らかになる可能性があります。
ここでは、転送エントロピーを分解し、情報フローの両側、つまり発信側プロセスの過去と受信側プロセスの未来の変動ビットを局所化することを提案します。
情報ボトルネック (IB) を使用して時系列を圧縮し、転送されたエントロピーを特定します。
我々の方法を適用して、いくつかの合成反復プロセスと、同時行動および神経活動の実験マウスデータセットにおける伝達エントロピーを分解します。
私たちのアプローチは、情報フロー内の微妙なダイナミクスを強調し、複雑なシステムにおける時間的プロセスの複雑な相互作用を将来探求するための基礎を築きます。

要約(オリジナル)

Whether the system under study is a shoal of fish, a collection of neurons, or a set of interacting atmospheric and oceanic processes, transfer entropy measures the flow of information between time series and can detect possible causal relationships. Much like mutual information, transfer entropy is generally reported as a single value summarizing an amount of shared variation, yet a more fine-grained accounting might illuminate much about the processes under study. Here we propose to decompose transfer entropy and localize the bits of variation on both sides of information flow: that of the originating process’s past and that of the receiving process’s future. We employ the information bottleneck (IB) to compress the time series and identify the transferred entropy. We apply our method to decompose the transfer entropy in several synthetic recurrent processes and an experimental mouse dataset of concurrent behavioral and neural activity. Our approach highlights the nuanced dynamics within information flow, laying a foundation for future explorations into the intricate interplay of temporal processes in complex systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google