LLM Augmented LLMs: Expanding Capabilities through Composition

要約

大規模なデータ・コーパスで学習された数十億のパラメータを持つ基礎モデルは、様々な領域で自明ではない能力を発揮してきた。しかし、そのモノリシックな構造のために、モデルの拡張や新しいスキルの付与には困難とコストがかかる。一方、適応能力が高いため、これらのモデルの新しいインスタンスが、新しいドメインやタスクに向けて学習されている。本研究では、より新しい能力を可能にするために、既存の基礎モデルとより特殊なモデルとの効率的かつ実用的な合成の問題を研究する。この目的のために、我々はCALM（Composition to Augment Language Models）を提案する。CALMの主な特徴は以下の通りである：(i) 既存のLLMを「再利用」し、いくつかのパラメータとデータを追加することにより、新しいタスクでLLMをスケールアップする。PaLM2-Sを低リソース言語で学習したより小さなモデルで補強すると、英語への翻訳や低リソース言語の算術推論のようなタスクで、最大13%の絶対的な改善が得られることを示す。同様に、PaLM2-Sをコードに特化したモデルで補強した場合、コード生成と説明のタスクにおいて、ベースモデルに対して40%の相対的な改善が見られる。

要約(オリジナル)

Foundational models with billions of parameters which have been trained on large corpora of data have demonstrated non-trivial skills in a variety of domains. However, due to their monolithic structure, it is challenging and expensive to augment them or impart new skills. On the other hand, due to their adaptation abilities, several new instances of these models are being trained towards new domains and tasks. In this work, we study the problem of efficient and practical composition of existing foundation models with more specific models to enable newer capabilities. To this end, we propose CALM — Composition to Augment Language Models — which introduces cross-attention between models to compose their representations and enable new capabilities. Salient features of CALM are: (i) Scales up LLMs on new tasks by ‘re-using’ existing LLMs along with a few additional parameters and data, (ii) Existing model weights are kept intact, and hence preserves existing capabilities, and (iii) Applies to diverse domains and settings. We illustrate that augmenting PaLM2-S with a smaller model trained on low-resource languages results in an absolute improvement of up to 13\% on tasks like translation into English and arithmetic reasoning for low-resource languages. Similarly, when PaLM2-S is augmented with a code-specific model, we see a relative improvement of 40\% over the base model for code generation and explanation tasks — on-par with fully fine-tuned counterparts.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL