Causal Discovery with Language Models as Imperfect Experts

要約

システムの根底にある因果関係を理解することは、正確な意思決定の基本的な前提条件です。
この研究では、マルコフ同値クラスを超えて、因果グラフのデータ駆動型識別を改善するために専門知識をどのように使用できるかを探ります。
その際、変数間の因果関係の方向性について専門家に問い合わせることができるが、専門家が誤った情報を提供する可能性がある設定を検討します。
我々は、等価クラスにおける非循環性や条件付き独立性などの一貫性特性に基づいて、そのような専門知識を修正するための戦略を提案します。
次に、大規模な言語モデルが不完全な専門家として使用される実際のデータに関するケーススタディを報告します。

要約(オリジナル)

Understanding the causal relationships that underlie a system is a fundamental prerequisite to accurate decision-making. In this work, we explore how expert knowledge can be used to improve the data-driven identification of causal graphs, beyond Markov equivalence classes. In doing so, we consider a setting where we can query an expert about the orientation of causal relationships between variables, but where the expert may provide erroneous information. We propose strategies for amending such expert knowledge based on consistency properties, e.g., acyclicity and conditional independencies in the equivalence class. We then report a case study, on real data, where a large language model is used as an imperfect expert.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google