Predictive Coding beyond Correlations

要約

近年、生物学的に妥当なアルゴリズムの能力に関する研究が盛んに行われている。本研究では、予測符号化と呼ばれるそのようなアルゴリズムの1つが、因果推論タスクをどのように実行できるかを示す。まず、予測符号化の推論プロセスを単純に変更するだけで、因果グラフを変更したり再定義したりすることなく、介入を計算できることを示す。次に、グラフが未知であり、観測データから推論しなければならない場合への応用を探る。経験的に、このような知見が、画像分類タスクにおける予測符号化の性能を向上させるためにどのように利用できるかを示し、このようなモデルが単純なエンドツーエンドの因果推論タスクを実行できると結論付ける。

要約(オリジナル)

Recently, there has been extensive research on the capabilities of biologically plausible algorithms. In this work, we show how one of such algorithms, called predictive coding, is able to perform causal inference tasks. First, we show how a simple change in the inference process of predictive coding enables to compute interventions without the need to mutilate or redefine a causal graph. Then, we explore applications in cases where the graph is unknown, and has to be inferred from observational data. Empirically, we show how such findings can be used to improve the performance of predictive coding in image classification tasks, and conclude that such models are able to perform simple end-to-end causal inference tasks.

arxiv情報

著者 Tommaso Salvatori,Luca Pinchetti,Amine M’Charrak,Beren Millidge,Thomas Lukasiewicz
発行日 2024-06-03 13:43:52+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, DeepL

カテゴリー: cs.LG パーマリンク