Towards Transparency in Coreference Resolution: A Quantum-Inspired Approach

要約

文法構造に導かれて単語が組み合わさって文が形成され、談話構造に導かれて文が組み合わさって対話や文書が形成される。文や談話単位の構成的側面は、機械学習アルゴリズムでは見過ごされがちである。量子自然言語処理(QNLP)と呼ばれる最近の取り組みは、言葉の意味をヒルベルト空間の点として学習し、文法構造をパラメトリック量子回路(PQC)に変換することでそれに作用する。以前の研究では、QNLPの翻訳を、ヒルベルト空間の閉包内の点を用いた談話構造へと拡張した。本論文では、Winogradスタイルの代名詞解決タスクでこの翻訳を評価する。二値分類のための変分量子分類器(VQC)を訓練し、エンドツーエンドの代名詞解決システムを実装する。IBMQソフトウェア上で実行されたシミュレーションは、87.20%のF1スコアで収束した。このモデルは、3つの古典的な共参照解決システムのうち2つを上回り、最先端のSpanBERTに近づいた。量子古典混合モデルは、F1スコアを約6%向上させ、これらの結果をさらに改善した。

要約(オリジナル)

Guided by grammatical structure, words compose to form sentences, and guided by discourse structure, sentences compose to form dialogues and documents. The compositional aspect of sentence and discourse units is often overlooked by machine learning algorithms. A recent initiative called Quantum Natural Language Processing (QNLP) learns word meanings as points in a Hilbert space and acts on them via a translation of grammatical structure into Parametrised Quantum Circuits (PQCs). Previous work extended the QNLP translation to discourse structure using points in a closure of Hilbert spaces. In this paper, we evaluate this translation on a Winograd-style pronoun resolution task. We train a Variational Quantum Classifier (VQC) for binary classification and implement an end-to-end pronoun resolution system. The simulations executed on IBMQ software converged with an F1 score of 87.20%. The model outperformed two out of three classical coreference resolution systems and neared state-of-the-art SpanBERT. A mixed quantum-classical model yet improved these results with an F1 score increase of around 6%.

arxiv情報

著者 Hadi Wazni,Mehrnoosh Sadrzadeh
発行日 2023-12-01 16:11:38+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, DeepL

カテゴリー: cs.AI, cs.CL, cs.LG, cs.LO パーマリンク