On the Challenges of Fully Incremental Neural Dependency Parsing

要約

BiLSTM と Transformer ベースの双方向エンコーダの普及以来、最先端の構文パーサーには増分性が欠けており、文全体へのアクセスが必要であり、人間の言語処理から逸脱しています。
このペーパーでは、最新のアーキテクチャを使用した完全な増分依存関係解析が競争力を発揮できるかどうかを検討します。
私たちは、厳密に左から右へのニューラル エンコーダーと、完全にインクリメンタルなシーケンス ラベリングおよび遷移ベースのデコーダーを組み合わせたパーサーを構築します。
その結果、最新のアーキテクチャによる完全増分解析は双方向解析に比べて大幅に遅れていることが示され、心理言語学的に妥当な解析の課題が指摘されています。

要約(オリジナル)

Since the popularization of BiLSTMs and Transformer-based bidirectional encoders, state-of-the-art syntactic parsers have lacked incrementality, requiring access to the whole sentence and deviating from human language processing. This paper explores whether fully incremental dependency parsing with modern architectures can be competitive. We build parsers combining strictly left-to-right neural encoders with fully incremental sequence-labeling and transition-based decoders. The results show that fully incremental parsing with modern architectures considerably lags behind bidirectional parsing, noting the challenges of psycholinguistically plausible parsing.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google