An Event Structure-aware Generative Model for Biomedical Event Extraction

要約

生物医学イベント抽出 (BEE) は、生物医学テキスト内のきめの細かいエンティティ間の複雑な関係をモデル化することを含む、やりがいのあるタスクです。
既存の BEE モデルのほとんどは、データ内のラベルのセマンティクスと引数の依存関係を無視する分類方法に依存しています。
プロンプトを使用する生成モデルは、イベント抽出にますます使用されていますが、生物医学分野向けの効果的なプロンプトの作成と、テキスト内の複雑な構造を持つイベントの処理という 2 つの主な課題に直面しています。
これらの制限に対処するために、生物医学的イベント抽出のための構造認識プレフィックスで強化された生成モデルである GenBEE を提案します。
GenBEE は、大規模言語モデル (LLM) から抽出された知識を活用してイベント プロンプトを構築し、それによってラベル セマンティクスと引数の依存関係の両方を組み込みます。
さらに、GenBEE は、構造プロンプトを使用して構造認識プレフィックスを生成する構造プレフィックス学習モジュールを導入し、構造特徴による生成プロセスを強化します。
3 つのベンチマーク データセットでの広範な実験により、GenBEE の有効性が実証され、MLEE および GE11 データセットで最先端のパフォーマンスが実現されます。
さらに、私たちの分析は、構造プレフィックスが構造プロンプトと生成モデルの表現空間の間のギャップを効果的に橋渡しし、イベント構造情報のより良い統合を可能にすることを示しています。

要約(オリジナル)

Biomedical Event Extraction (BEE) is a challenging task that involves modeling complex relationships between fine-grained entities in biomedical text. Most existing BEE models rely on classification methods that ignore label semantics and argument dependencies in the data. Although generative models that use prompts are increasingly being used for event extraction, they face two main challenges: creating effective prompts for the biomedical domain and dealing with events with complex structures in the text. To address these limitations, we propose GenBEE, a generative model enhanced with structure-aware prefixes for biomedical event extraction. GenBEE constructs event prompts that leverage knowledge distilled from large language models (LLMs), thereby incorporating both label semantics and argument dependency relationships. Additionally, GenBEE introduces a structural prefix learning module that generates structure-aware prefixes with structural prompts, enriching the generation process with structural features. Extensive experiments on three benchmark datasets demonstrate the effectiveness of GenBEE and it achieves state-of-the-art performance on the MLEE and GE11 datasets. Moreover, our analysis shows that the structural prefixes effectively bridge the gap between structural prompts and the representation space of generative models, enabling better integration of event structural information.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google