Generative Meta-Learning for Zero-Shot Relation Triplet Extraction

要約

タイトル：ゼロショット関係トリプレット抽出のための生成メタ学習

要約：
– ゼロショット関係トリプレット抽出（ZeroRTE）タスクは、未知の関係タイプを持つテキストから関係トリプレットを抽出することを目的としています。
– 現在の生成モデルには、異なるタスクに対するモデル一般化の最適化プロセスが欠けているため、限定された一般化能力しか持たないという問題があります。
– そのため、私たちはメタ学習の「学習すること」の能力を利用して、一般化能力を向上させる新しい生成メタ学習フレームワークを提案します。
– 具体的には、複数のタスクにわたる最適化プロセスを強制することによって、一般的な知識を学ぶことができるタスク感知型生成モデルを設計し、それに基づいて三つのメタ学習カテゴリに対応した生成メタ学習アプローチを提案しています。
– 大規模な実験結果は、私たちの枠組みがZeroRTEタスクの新しい最高性能を達成したことを示しています。

要約(オリジナル)

The zero-shot relation triplet extraction (ZeroRTE) task aims to extract relation triplets from a piece of text with unseen relation types. The seminal work adopts the pre-trained generative model to generate synthetic samples for new relations. However, current generative models lack the optimization process of model generalization on different tasks during training, and thus have limited generalization capability. For this reason, we propose a novel generative meta-learning framework which exploits the `learning-to-learn’ ability of meta-learning to boost the generalization capability of generative models. Specifically, we first design a task-aware generative model which can learn the general knowledge by forcing the optimization process to be conducted across multiple tasks. Based on it, we then present three generative meta-learning approaches designated for three typical meta-learning categories. Extensive experimental results demonstrate that our framework achieves a new state-of-the-art performance for the ZeroRTE task.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI