ParroT: Translating during Chat using Large Language Models tuned with Human Translation and Feedback

要約

ChatGPT のような大規模言語モデル (LLM) は、チャット中に達成されるさまざまな機械翻訳能力を含む、幅広い自然言語処理 (NLP) タスクにおいて顕著な能力を発揮してきました。
ただし、これらのモデルには制限された API を介してのみアクセスできるため、この分野の新しい研究や進歩には障壁が生じます。
したがって、私たちは、オープンソース LLM (LLaMA など)、人が書いた翻訳およびフィードバック データに基づいて、チャット中の翻訳能力を強化および調整するフレームワークである ParroT を提案します。
具体的には、ParroT は翻訳データを指示に従うスタイルに再定式化し、翻訳プロセスを規制するための追加要件を組み込むための「$\mathbf{Hint}$」フィールドを導入します。
したがって、ParroT モデルを微調整するために、翻訳命令、対比命令、エラーガイド命令を含む 3 つの命令タイプを提案します。
Flores サブセットと WMT22 テスト セットに関する実験では、翻訳指示によってバニラ LLM の翻訳パフォーマンスが大幅に向上する一方、エラーガイドによる指示によってさらなる改善が可能であることが示唆されており、人間が注釈を付けた低品質の翻訳から学習することの重要性が実証されています。
また、人間による注釈データが欠如している道案内のエラーガイドを作成する際に、翻訳の質の高い情報を提供する自動評価ツールの可能性も実証します。
実装の詳細については、Github プロジェクトを参照してください: https://github.com/wxjiao/ParroT

要約(オリジナル)

Large language models (LLMs) like ChatGPT have exhibited remarkable abilities on a wide range of natural language processing~(NLP) tasks, including various machine translation abilities accomplished during chat. However, these models are only accessible through restricted APIs, which creates barriers to new research and advancements in the field. Therefore, we propose ParroT, a framework to enhance and regulate the translation abilities during chat based on open-source LLMs (e.g., LLaMA), human-written translation and feedback data. Specifically, ParroT reformulates translation data into the instruction-following style, and introduces a ‘$\mathbf{Hint}$’ field for incorporating extra requirements to regulate the translation process. Accordingly, we propose three instruction types for finetuning ParroT models, including translation instruction, contrastive instruction, and error-guided instruction. Experiments on Flores subsets and WMT22 test sets suggest that translation instruction improves the translation performance of vanilla LLMs significantly while error-guided instruction can lead to further improvement, which demonstrates the importance of learning from low-quality translations annotated by humans. We also demonstrate the potential of automatic evaluation tools in providing quality information of translations, when constructing error-guided instructions for directions that lack human annotation data. Please refer to our Github project for more implementation details: https://github.com/wxjiao/ParroT

arxiv情報

提供元, 利用サービス

arxiv.jp, Google