要約
ポルトガル語のニューラル モデリングに関する研究を活用して、一連の言語処理タスク用のデータセットのコレクションと、これらの下流タスクに関する微調整されたニューラル言語モデルの対応するコレクションに貢献します。
もともと英語で開発された文献の主流のベンチマークと一致し、ポルトガル語のベンチマークを開始するために、データセットは最先端の翻訳エンジンを使用して英語から機械翻訳されました。
結果として得られた PORTULAN ExtraGLUE ベンチマークは、ポルトガル語に関する研究の基礎となり、今後の研究でその改善を追求することができます。
同様に、低ランク適応アプローチで開発されたそれぞれの微調整された神経言語モデルは、ポルトガル語の神経処理に関する将来の研究を刺激できるベースラインとして利用可能になります。
すべてのデータセットとモデルが開発され、ポルトガル語の 2 つのバリエーション (ヨーロッパ語とブラジル語) で利用できるようになりました。
要約(オリジナル)
Leveraging research on the neural modelling of Portuguese, we contribute a collection of datasets for an array of language processing tasks and a corresponding collection of fine-tuned neural language models on these downstream tasks. To align with mainstream benchmarks in the literature, originally developed in English, and to kick start their Portuguese counterparts, the datasets were machine-translated from English with a state-of-the-art translation engine. The resulting PORTULAN ExtraGLUE benchmark is a basis for research on Portuguese whose improvement can be pursued in future work. Similarly, the respective fine-tuned neural language models, developed with a low-rank adaptation approach, are made available as baselines that can stimulate future work on the neural processing of Portuguese. All datasets and models have been developed and are made available for two variants of Portuguese: European and Brazilian.
arxiv情報
著者 | Tomás Osório,Bernardo Leite,Henrique Lopes Cardoso,Luís Gomes,João Rodrigues,Rodrigo Santos,António Branco |
発行日 | 2024-04-08 09:22:41+00:00 |
arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google