RAMP: Retrieval and Attribute-Marking Enhanced Prompting for Attribute-Controlled Translation

要約

属性制御翻訳 (ACT) は、翻訳出力の文体または言語属性 (形式や性別など) の制御を含む機械翻訳のサブタスクです。
ACT は現実世界のアプリケーションでの有用性により近年注目を集めていますが、従来のアプローチのほとんどは教師あり手法に依存しているため、このタスクの進歩は現在、データセットの利用可能性によって制限されています。
この制限に対処するために、私たちは、大規模な多言語モデルを活用して、少数ショットおよびゼロショット設定で ACT を実行する取得および属性マーキング拡張プロンプティング (RAMP) を提案します。
RAMP は、(1) 類似したコンテキスト内の例を選択するための意味論的類似性検索コンポーネントを組み込むこと、(2) コンテキスト内の例を属性注釈でマークすることにより、標準的なプロンプト アプローチよりも生成精度を向上させます。
私たちの包括的な実験は、RAMP がゼロショット設定と少数ショット設定の両方で実行可能なアプローチであることを示しています。

要約(オリジナル)

Attribute-controlled translation (ACT) is a subtask of machine translation that involves controlling stylistic or linguistic attributes (like formality and gender) of translation outputs. While ACT has garnered attention in recent years due to its usefulness in real-world applications, progress in the task is currently limited by dataset availability, since most prior approaches rely on supervised methods. To address this limitation, we propose Retrieval and Attribute-Marking enhanced Prompting (RAMP), which leverages large multilingual language models to perform ACT in few-shot and zero-shot settings. RAMP improves generation accuracy over the standard prompting approach by (1) incorporating a semantic similarity retrieval component for selecting similar in-context examples, and (2) marking in-context examples with attribute annotations. Our comprehensive experiments show that RAMP is a viable approach in both zero-shot and few-shot settings.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google