Temporal Validity Change Prediction

要約

時間的妥当性はテキストの重要な特性であり、レコメンダー システム、会話型 AI、ストーリー理解など、多くの下流アプリケーションに役立ちます。
既存のベンチマーク タスクでは、多くの場合、モデルが 1 つのステートメントの一時的な有効期間を識別する必要があります。
ただし、多くの場合、ストーリー内の文やソーシャル メディア プロフィールの投稿などの追加のコンテキスト情報は、利用可能なテキスト ストリームから収集できます。
このコンテキスト情報により、ステートメントの有効期間が大幅に変わる可能性があります。
私たちは、時間的妥当性変化予測を提案します。これは、そのような変化を引き起こす文脈上のステートメントを検出する機械学習モデルの機能をベンチマークする自然言語処理タスクです。
Twitter からソースされた一時的なターゲット ステートメントとクラウドソースのサンプル コンテキスト ステートメントで構成されるデータセットを作成します。
次に、データセット上でトランスフォーマーベースの言語モデルのセットをベンチマークします。
最後に、最先端のモデルのパフォーマンスを向上させるための補助タスクとして、時間的有効性の持続予測を実験します。

要約(オリジナル)

Temporal validity is an important property of text that is useful for many downstream applications, such as recommender systems, conversational AI, or story understanding. Existing benchmarking tasks often require models to identify the temporal validity duration of a single statement. However, in many cases, additional contextual information, such as sentences in a story or posts on a social media profile, can be collected from the available text stream. This contextual information may greatly alter the duration for which a statement is expected to be valid. We propose Temporal Validity Change Prediction, a natural language processing task benchmarking the capability of machine learning models to detect contextual statements that induce such change. We create a dataset consisting of temporal target statements sourced from Twitter and crowdsource sample context statements. We then benchmark a set of transformer-based language models on our dataset. Finally, we experiment with temporal validity duration prediction as an auxiliary task to improve the performance of the state-of-the-art model.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google