Scaling Graph-Based Dependency Parsing with Arc Vectorization and Attention-Based Refinement

要約

我々は、アークとラベルの両方がスコアリングされるベクトルを明示的に構築する、グラフベースの依存関係解析のための新しいアーキテクチャを提案します。
私たちの方法は、アーク スコアリングとラベル付けを単一のネットワークに統合することで、標準的な 2 パイプライン アプローチの主要な制限に対処し、情報のボトルネックやパラメータ共有の欠如によって引き起こされるスケーラビリティの問題を軽減します。
さらに、私たちのアーキテクチャは、高次の依存関係を効率的にシミュレートするために、変圧器層との制限されたアーク相互作用を克服します。
PTB と UD ​​の実験では、私たちのモデルが精度と効率の両方で最先端のパーサーよりも優れていることがわかりました。

要約(オリジナル)

We propose a novel architecture for graph-based dependency parsing that explicitly constructs vectors, from which both arcs and labels are scored. Our method addresses key limitations of the standard two-pipeline approach by unifying arc scoring and labeling into a single network, reducing scalability issues caused by the information bottleneck and lack of parameter sharing. Additionally, our architecture overcomes limited arc interactions with transformer layers to efficiently simulate higher-order dependencies. Experiments on PTB and UD show that our model outperforms state-of-the-art parsers in both accuracy and efficiency.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google