Zero-Shot Cross-Lingual Document-Level Event Causality Identification with Heterogeneous Graph Contrastive Transfer Learning

要約

イベント因果関係識別 (ECI) は、テキスト内のイベント間の因果関係を検出することを指します。
しかし、既存の研究のほとんどは、高リソース言語を使用した文レベルの ECI に焦点を当てており、低リソース言語を使用したより困難なドキュメントレベル ECI (DECI) については十分に検討されていません。
この論文では、ゼロショットクロス言語文書レベル ECI のための多粒度対照転移学習 (GIMC) を備えた異種グラフ インタラクション モデルを提案します。
具体的には、異種グラフ相互作用ネットワークを導入して、ドキュメント上に散在するイベント間の長距離依存関係をモデル化します。
次に、ソース言語から学習した因果関係知識の言語間伝達性を向上させるために、言語間で因果表現を調整するための多粒度の対照伝達学習モジュールを提案します。
広範な実験により、私たちのフレームワークは、単言語シナリオと多言語シナリオでそれぞれ平均 F1 スコアの 9.4% と 8.2% 、以前の最先端モデルを上回るパフォーマンスを示しました。
特に、多言語シナリオでは、ゼロショット フレームワークは、全体のパフォーマンスで 24.3% の少数ショット学習で GPT-3.5 を上回っています。

要約(オリジナル)

Event Causality Identification (ECI) refers to detect causal relations between events in texts. However, most existing studies focus on sentence-level ECI with high-resource language, leaving more challenging document-level ECI (DECI) with low-resource languages under-explored. In this paper, we propose a Heterogeneous Graph Interaction Model with Multi-granularity Contrastive Transfer Learning (GIMC) for zero-shot cross-lingual document-level ECI. Specifically, we introduce a heterogeneous graph interaction network to model the long-distance dependencies between events that are scattered over document. Then, to improve cross-lingual transferability of causal knowledge learned from source language, we propose a multi-granularity contrastive transfer learning module to align the causal representations across languages. Extensive experiments show our framework outperforms previous state-of-the-art model by 9.4% and 8.2% of average F1 score on monolingual and multilingual scenarios respectively. Notably, in multilingual scenario, our zero-shot framework even exceeds GPT-3.5 with few-shot learning by 24.3% in overall performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google