Joint Learning of Local and Global Features for Aspect-based Sentiment Classification

要約

アスペクトベースの感情分類 (ASC) は、文内の特定のアスペクト用語によって伝えられる感情の極性を判断することを目的としています。
感情の極性は、ローカルなコンテキストによって決定されるだけでなく、特定のアスペクト用語から遠く離れた単語にも関連します。
注意ベースのモデルに関する最近の取り組みでは、場合によってはどの単語にもっと注意を払うべきかを十分に区別できない場合があります。
一方、構文上の依存関係ツリー情報をエンコードするために、グラフベースのモデルが ASC に導入されています。
しかし、これらのモデルは、依存関係タグ情報を表現学習に効果的に組み込むことを無視しているため、構文依存ツリーを完全には活用していません。
このペーパーでは、ローカルおよびグローバルの特徴を効果的にモデル化することで、これらの問題に対処します。
まず、ガウスマスク層と共分散セルフアテンション層を含むローカルエンコーダを設計します。
ガウス マスク レイヤーは、アスペクト用語の周囲の受容野を適応的に調整して、無関係な単語の影響を強調しなくなり、ローカル情報により注意を払う傾向があります。
共分散自己注意層は、異なる単語の注意の重みをより明確に区別できます。
さらに、依存性タグ情報を最大限に活用して長距離情報を効果的に捕捉するグローバルエンコーダとしてのデュアルレベルグラフアテンションネットワークを提案します。
私たちのモデルは、SemEval 2014 と Twitter データセットの両方で最先端のパフォーマンスを実現します。

要約(オリジナル)

Aspect-based sentiment classification (ASC) aims to judge the sentiment polarity conveyed by the given aspect term in a sentence. The sentiment polarity is not only determined by the local context but also related to the words far away from the given aspect term. Most recent efforts related to the attention-based models can not sufficiently distinguish which words they should pay more attention to in some cases. Meanwhile, graph-based models are coming into ASC to encode syntactic dependency tree information. But these models do not fully leverage syntactic dependency trees as they neglect to incorporate dependency relation tag information into representation learning effectively. In this paper, we address these problems by effectively modeling the local and global features. Firstly, we design a local encoder containing: a Gaussian mask layer and a covariance self-attention layer. The Gaussian mask layer tends to adjust the receptive field around aspect terms adaptively to deemphasize the effects of unrelated words and pay more attention to local information. The covariance self-attention layer can distinguish the attention weights of different words more obviously. Furthermore, we propose a dual-level graph attention network as a global encoder by fully employing dependency tag information to capture long-distance information effectively. Our model achieves state-of-the-art performance on both SemEval 2014 and Twitter datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google