Hierarchical Dialogue Understanding with Special Tokens and Turn-level Attention

要約

タイトル：特別なトークンとターンレベルのアテンションを用いた階層的な対話理解
要約：
– マシンにとって、動的で予想外な意味の変化が各ターンで発生する対話を理解することは、標準テキストと比較してより困難である。
– このような一貫性のない意味をモデル化するために、私たちはシンプルで効果的な階層的な対話理解モデルHiDialogを提案する。
– 具体的には、まず、複数の特別なトークンをダイアログに挿入し、ターンレベルのアテンションを提案して、ターンの埋め込みを階層的に学習する。
– 次に、異種グラフモジュールを活用して、学習された埋め込みを磨き上げる。
– 私たちは、対話関係抽出、対話感情認識、および対話アクト分類を含むさまざまな対話理解タスクでモデルを評価した。結果は、私たちのシンプルなアプローチが上記のすべてのタスクで最先端の性能を発揮することを示している。私たちのすべてのソースコードはhttps://github.com/ShawX825/HiDialogで公開されています。

要約(オリジナル)

Compared with standard text, understanding dialogue is more challenging for machines as the dynamic and unexpected semantic changes in each turn. To model such inconsistent semantics, we propose a simple but effective Hierarchical Dialogue Understanding model, HiDialog. Specifically, we first insert multiple special tokens into a dialogue and propose the turn-level attention to learn turn embeddings hierarchically. Then, a heterogeneous graph module is leveraged to polish the learned embeddings. We evaluate our model on various dialogue understanding tasks including dialogue relation extraction, dialogue emotion recognition, and dialogue act classification. Results show that our simple approach achieves state-of-the-art performance on all three tasks above. All our source code is publicly available at https://github.com/ShawX825/HiDialog.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI