Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4

要約

このペーパーでは、大規模な言語モデルのクエリとプロンプトのプロセスを合理化するために設計された 26 の指針を紹介します。
私たちの目標は、さまざまなスケールの大規模な言語モデルに対する質問を作成し、その能力を検証し、さまざまなプロンプトに入力する際のさまざまなスケールの大規模な言語モデルの動作に関するユーザーの理解を強化するという基礎的な概念を簡素化することです。
LLaMA-1/2 (7B、13B、および 70B)、GPT-3.5/4 で広範な実験が行われ、指示とプロンプトの設計に対する提案された原則の有効性が検証されます。
この研究が、大規模な言語モデルのプロンプトに取り組む研究者にとってより良いガイドとなることを願っています。
プロジェクトページは https://github.com/VILA-Lab/ATLAS から入手できます。

要約(オリジナル)

This paper introduces 26 guiding principles designed to streamline the process of querying and prompting large language models. Our goal is to simplify the underlying concepts of formulating questions for various scales of large language models, examining their abilities, and enhancing user comprehension on the behaviors of different scales of large language models when feeding into different prompts. Extensive experiments are conducted on LLaMA-1/2 (7B, 13B and 70B), GPT-3.5/4 to verify the effectiveness of the proposed principles on instructions and prompts design. We hope that this work provides a better guide for researchers working on the prompting of large language models. Project page is available at https://github.com/VILA-Lab/ATLAS.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google