DiffuCOMET: Contextual Commonsense Knowledge Diffusion

要約

文脈に関連した多様な常識を推論して物語を理解することは、知識モデルにとって依然として困難です。
この研究では、拡散を利用して、物語の文脈と関連する常識的知識の間の暗黙的な意味的つながりを再構築する方法を学習する一連の知識モデル DiffuCOMET を開発します。
複数の拡散ステップにわたって、私たちの方法は、物語に固定された常識的事実の表現を徐々に洗練させ、入力されたコンテキストに対して文脈的に関連性のある多様な常識的推論を生成します。
DiffuCOMET を評価するために、知識の多様性と文脈の関連性をより厳密に測定する常識推論のための新しい指標を導入します。
ComFact と WebNLG+ という 2 つの異なるベンチマークでの結果は、DiffuCOMET によって生成された知識が、ベースライン知識モデルと比較して、常識の多様性、文脈上の関連性、および既知のゴールドリファレンスとの整合性の間でより良いトレードオフを実現していることを示しています。

要約(オリジナル)

Inferring contextually-relevant and diverse commonsense to understand narratives remains challenging for knowledge models. In this work, we develop a series of knowledge models, DiffuCOMET, that leverage diffusion to learn to reconstruct the implicit semantic connections between narrative contexts and relevant commonsense knowledge. Across multiple diffusion steps, our method progressively refines a representation of commonsense facts that is anchored to a narrative, producing contextually-relevant and diverse commonsense inferences for an input context. To evaluate DiffuCOMET, we introduce new metrics for commonsense inference that more closely measure knowledge diversity and contextual relevance. Our results on two different benchmarks, ComFact and WebNLG+, show that knowledge generated by DiffuCOMET achieves a better trade-off between commonsense diversity, contextual relevance and alignment to known gold references, compared to baseline knowledge models.

arxiv情報

著者 Silin Gao,Mete Ismayilzada,Mengjie Zhao,Hiromi Wakaki,Yuki Mitsufuji,Antoine Bosselut
発行日 2024-10-01 10:38:25+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CL パーマリンク