Is Prompt All You Need? No. A Comprehensive and Broader View of Instruction Learning

要約

【タイトル】プロンプトだけで十分ですか？いいえ。説明学習の包括的かつ広範な見方

【要約】
– 自然言語処理(NLP)の機械学習手法は、タスクの意味を入力から出力までの例のセットまたは説明文章で表現できる。
– 大規模なタスク特定の例の収集が困難な場合、またはシステムが直ちに新しいタスクを処理する必要がある場合には、タスク固有のラベル付き例を収集する従来の機械学習手法は適用できない。
– エンドユーザーは、システムを使用する前に例のセットよりもタスクの説明を提供することが多いため、ユーザーフレンドリーではない。
– そのため、NLPの新しい監視を求めるパラダイム「タスクの指示からの学習」について、コミュニティはますます関心を集めている。
– このサーベイ論文は、現在の説明学習の研究を要約することを試みており、具体的には次の質問に答えることを目的としている。(i)タスク指示とは何か、どのような指示タイプが存在するのか？(ii)指示をモデル化するにはどうすればよいか？(iii)指示の性能に影響し説明する要因は何か？(iv)説明学習に残る課題は何か？
– 私たちの知る限り、これはテキスト指示に関する最初の包括的なサーベイである。

要約(オリジナル)

Task semantics can be expressed by a set of input-to-output examples or a piece of textual instruction. Conventional machine learning approaches for natural language processing (NLP) mainly rely on the availability of large-scale sets of task-specific examples. Two issues arise: first, collecting task-specific labeled examples does not apply to scenarios where tasks may be too complicated or costly to annotate, or the system is required to handle a new task immediately; second, this is not user-friendly since end-users are probably more willing to provide task description rather than a set of examples before using the system. Therefore, the community is paying increasing interest in a new supervision-seeking paradigm for NLP: learning from task instructions. Despite its impressive progress, there are some common issues that the community struggles with. This survey paper tries to summarize the current research on instruction learning, particularly, by answering the following questions: (i) what is task instruction, and what instruction types exist? (ii) how to model instructions? (iii) what factors influence and explain the instructions’ performance? (iv) what challenges remain in instruction learning? To our knowledge, this is the first comprehensive survey about textual instructions.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI