DAPrompt: Deterministic Assumption Prompt Learning for Event Causality Identification

要約

イベント因果関係特定 (ECI) は、2 つのイベントの言及の間に因果関係があるかどうかを判断することを目的としています。
従来のプロンプト学習では、最初に回答単語を予測し、それを最終決定にマッピングするプロンプト テンプレートを設計します。
従来のプロンプトとは異なり、応答単語の予測は ECI タスクの必要な前提条件ではない可能性があると主張します。
代わりに、最初に 2 つのイベント間の因果関係の存在について決定論的な仮定を立て、次にその合理性を評価して、その仮定を受け入れるか拒否することができます。
設計の動機は、事前にトレーニングされた言語モデルに埋め込まれた百科事典のような知識を最大限に活用しようとすることです。
このような考慮事項を考慮して、ECI タスク用に、DAPrompt と呼ばれる決定論的な仮定プロンプト学習モデルを提案します。
特に、予測されたイベントのトークンとして 2 つのマスクを含む、入力イベントのペアと連結する単純な決定論的な仮定テンプレートを設計します。
予測されたイベントの確率を使用して、最終的なイベントの因果関係の決定に対する仮定の合理性を評価します。
EventStoryLine コーパスと Causal-TimeBank コーパスの実験により、最先端のアルゴリズムと比べてパフォーマンスが大幅に向上するという点で、設計目標が検証されました。

要約(オリジナル)

Event Causality Identification (ECI) aims at determining whether there is a causal relation between two event mentions. Conventional prompt learning designs a prompt template to first predict an answer word and then maps it to the final decision. Unlike conventional prompts, we argue that predicting an answer word may not be a necessary prerequisite for the ECI task. Instead, we can first make a deterministic assumption on the existence of causal relation between two events and then evaluate its rationality to either accept or reject the assumption. The design motivation is to try the most utilization of the encyclopedia-like knowledge embedded in a pre-trained language model. In light of such considerations, we propose a deterministic assumption prompt learning model, called DAPrompt, for the ECI task. In particular, we design a simple deterministic assumption template concatenating with the input event pair, which includes two masks as predicted events’ tokens. We use the probabilities of predicted events to evaluate the assumption rationality for the final event causality decision. Experiments on the EventStoryLine corpus and Causal-TimeBank corpus validate our design objective in terms of significant performance improvements over the state-of-the-art algorithms.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google