ParaGuide: Guided Diffusion Paraphrasers for Plug-and-Play Textual Style Transfer

要約

テキスト スタイルの転送は、意味を維持しながらテキストのスタイル特性を変換するタスクです。
対象となる「スタイル」は、単一の属性 (例: 形式) から著者名 (例: シェイクスピア) まで、さまざまな方法で定義できます。
従来の教師なしスタイル転送アプローチは一般に、固定のスタイル セットのみに対して大量のラベル付きデータに依存するか、大規模な言語モデルを必要とします。
対照的に、我々は、推論時に任意のターゲット スタイルに柔軟に適応できる、汎用スタイル転送のための新しい拡散ベースのフレームワークを導入します。
当社のパラメータ効率の高いアプローチである ParaGuide は、言い換え条件付き拡散モデルと、既製の分類器と強力な既存のスタイル エンベッダーの両方からの勾配ベースのガイダンスを利用して、セマンティック情報を維持しながらテキストのスタイルを変換します。
私たちはエンロン電子メール コーパスでこの方法を人的評価と自動評価の両方で検証し、形式、感情、さらには著者スタイルの伝達においても強力なベースラインを上回っていることを発見しました。

要約(オリジナル)

Textual style transfer is the task of transforming stylistic properties of text while preserving meaning. Target ‘styles’ can be defined in numerous ways, ranging from single attributes (e.g, formality) to authorship (e.g, Shakespeare). Previous unsupervised style-transfer approaches generally rely on significant amounts of labeled data for only a fixed set of styles or require large language models. In contrast, we introduce a novel diffusion-based framework for general-purpose style transfer that can be flexibly adapted to arbitrary target styles at inference time. Our parameter-efficient approach, ParaGuide, leverages paraphrase-conditioned diffusion models alongside gradient-based guidance from both off-the-shelf classifiers and strong existing style embedders to transform the style of text while preserving semantic information. We validate the method on the Enron Email Corpus, with both human and automatic evaluations, and find that it outperforms strong baselines on formality, sentiment, and even authorship style transfer.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google