要約
最近、ChatGPT は研究者と一般の人々の両方から多くの関心を集めています。
標準英語テキストからの固有表現認識と関係抽出における ChatGPT のパフォーマンスは満足のいくものですが、マレーシア英語でも同様のパフォーマンスを発揮できるかどうかはまだわかりません。
マレーシア英語は、現地の文脈から形態構文的および意味的適応を示すため、独特です。
この研究では、マレーシア英語ニュース (MEN) データセットからエンティティと関係を抽出する ChatGPT の機能を評価します。
私たちは \textbf{\textit{educate-predict-evaluate}} と呼ばれる 3 段階の方法論を提案します。
ChatGPT のパフォーマンスは、包括的なレビューのために慎重に設計された 18 の独自のプロンプト設定にわたる F1 スコアを使用して評価されます。
私たちの評価から、ChatGPT はマレーシアの英語ニュース記事からエンティティを抽出する際に十分なパフォーマンスを発揮しておらず、最高の F1 スコアは 0.497 であることがわかりました。
さらなる分析により、マレーシア英語の形態統語的適応がこの制限を引き起こしたことが示されています。
ただし、興味深いことに、この形態統語論的な適応は、関係抽出における ChatGPT のパフォーマンスに影響を与えません。
要約(オリジナル)
Recently, ChatGPT has attracted a lot of interest from both researchers and the general public. While the performance of ChatGPT in named entity recognition and relation extraction from Standard English texts is satisfactory, it remains to be seen if it can perform similarly for Malaysian English. Malaysian English is unique as it exhibits morphosyntactic and semantical adaptation from local contexts. In this study, we assess ChatGPT’s capability in extracting entities and relations from the Malaysian English News (MEN) dataset. We propose a three-step methodology referred to as \textbf{\textit{educate-predict-evaluate}}. The performance of ChatGPT is assessed using F1-Score across 18 unique prompt settings, which were carefully engineered for a comprehensive review. From our evaluation, we found that ChatGPT does not perform well in extracting entities from Malaysian English news articles, with the highest F1-Score of 0.497. Further analysis shows that the morphosyntactic adaptation in Malaysian English caused the limitation. However, interestingly, this morphosyntactic adaptation does not impact the performance of ChatGPT for relation extraction.
arxiv情報
| 著者 | Mohan Raj Chanthran,Lay-Ki Soon,Huey Fang Ong,Bhawani Selvaretnam |
| 発行日 | 2023-11-20 07:41:30+00:00 |
| arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google