Controlled Text Generation for Black-box Language Models via Score-based Progressive Editor

要約

言語モデルの最近の進歩にも関わらず、特にドメイン固有の知識が不足しているブラックボックス モデルを利用する場合、特定のドメイン向けに制約されたテキストを生成することは依然として課題です。
この論文では、ブラックボックス言語モデル用の制御されたテキスト生成のための新しいアプローチである ScoPE (スコアベース プログレッシブ エディター) 生成を紹介します。
ScoPE を採用し、カスケード アプローチを通じて言語モデルと統合することで、ターゲット ドメインでのテキスト生成を容易にします。
編集されたテキストのターゲット ドメイン スコアを向上させるようにトレーニングされた ScoPE は、言語モデルの自動回帰生成プロセス全体を通じて、中間出力の離散トークンを段階的に編集してターゲット属性と一致させます。
この反復プロセスは、ターゲット ドメインに必要な出力テキストを生成するための後続のステップを導きます。
多様な制御された生成に関する私たちの実験結果は、ScoPE がドメイン内とドメイン外の両方の条件でブラックボックス言語モデルの制御されたテキスト生成を効果的に促進することを示していますが、これは既存の方法では困難です。

要約(オリジナル)

Despite recent progress in language models, generating constrained text for specific domains remains a challenge, particularly when utilizing black-box models that lack domain-specific knowledge. In this paper, we introduce ScoPE (Score-based Progressive Editor) generation, a novel approach for controlled text generation for black-box language models. We employ ScoPE to facilitate text generation in the target domain by integrating it with language models through a cascading approach. Trained to enhance the target domain score of the edited text, ScoPE progressively edits intermediate output discrete tokens to align with the target attributes throughout the auto-regressive generation process of the language model. This iterative process guides subsequent steps to produce desired output texts for the target domain. Our experimental results on diverse controlled generations demonstrate that ScoPE effectively facilitates controlled text generation for black-box language models in both in-domain and out-of-domain conditions, which is challenging for existing methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google