A Bipartite Graph is All We Need for Enhancing Emotional Reasoning with Commonsense Knowledge

要約

AI システムの、特に会話における状況認識型の感情的推論能力は、ソーシャル メディアからのオンライン意見マイニングや共感対話システムなどのアプリケーションにおいて非常に重要です。
多くのシナリオでは感情を伝える暗黙的な性質があるため、発話のセマンティクスを強化し、会話モデリングを強化するために常識的な知識が広く利用されています。
しかし、これまでの知識注入手法のほとんどは、経験的な知識のフィルタリングを実行し、発話との知識の相互作用のために高度にカスタマイズされたアーキテクチャを設計していたため、有用な知識の側面が無視され、さまざまな知識ソースへの一般化が制限される可能性がありました。
これらの観察に基づいて、常識的な知識を使って感情的な推論を強化するための二部異種グラフ (BHG) 方法を提案します。
BHG では、抽出されたコンテキストを意識した発話表現と知識表現が異種ノードとしてモデル化されます。
自動知識フィルタリングと対話を実行するために、さらに 2 つの知識集約ノード タイプが提案されています。
BHG ベースの知識の注入は、複数のタイプおよび複数の粒度の知識ソースに直接一般化できます。
さらに、グラフ推論を実行するための多次元異種グラフ変換器 (MHGT) を提案します。これは、不必要な情報の損失を防ぐために、推論中に異種ノード タイプの不変の特徴空間と不等次元を保持できます。
実験では、BHG ベースの方法が最先端の知識注入方法よりも大幅に優れており、より高い効率で一般化された知識注入能力を示すことが示されています。
さらなる分析により、以前の経験的な知識フィルタリング方法では、最も有用な知識情報が提供されることが保証されないことが証明されました。
コードは https://github.com/SteveKGYang/BHG から入手できます。

要約(オリジナル)

The context-aware emotional reasoning ability of AI systems, especially in conversations, is of vital importance in applications such as online opinion mining from social media and empathetic dialogue systems. Due to the implicit nature of conveying emotions in many scenarios, commonsense knowledge is widely utilized to enrich utterance semantics and enhance conversation modeling. However, most previous knowledge infusion methods perform empirical knowledge filtering and design highly customized architectures for knowledge interaction with the utterances, which can discard useful knowledge aspects and limit their generalizability to different knowledge sources. Based on these observations, we propose a Bipartite Heterogeneous Graph (BHG) method for enhancing emotional reasoning with commonsense knowledge. In BHG, the extracted context-aware utterance representations and knowledge representations are modeled as heterogeneous nodes. Two more knowledge aggregation node types are proposed to perform automatic knowledge filtering and interaction. BHG-based knowledge infusion can be directly generalized to multi-type and multi-grained knowledge sources. In addition, we propose a Multi-dimensional Heterogeneous Graph Transformer (MHGT) to perform graph reasoning, which can retain unchanged feature spaces and unequal dimensions for heterogeneous node types during inference to prevent unnecessary loss of information. Experiments show that BHG-based methods significantly outperform state-of-the-art knowledge infusion methods and show generalized knowledge infusion ability with higher efficiency. Further analysis proves that previous empirical knowledge filtering methods do not guarantee to provide the most useful knowledge information. Our code is available at: https://github.com/SteveKGYang/BHG.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google