How Much Knowledge Can You Pack into a LoRA Adapter without Harming LLM?

要約

多くのタスクでの大規模な言語モデル（LLMS）のパフォーマンスは、トレーニング前に学んだ知識によって大幅に制限され、モデルのパラメーターに保存されます。
Low-Rank Adaptation（LORA）は、LLMの更新またはドメイン固有の適応に人気があり効率的なトレーニング技術です。
この研究では、以前に学んだ知識を損なうことなく、LORAを使用して新しい事実をLLMにどのように組み込むことができるかを調査します。
さまざまな量の新しい知識を持つLORAを使用して、llama-3.1-8b-instructを微調整しました。
私たちの実験では、トレーニングデータに既知の事実と新しい事実の混合が含まれている場合に最良の結果が得られることが示されています。
ただし、このアプローチは、外部の質問アンウェーのベンチマークに関するモデルのパフォーマンスがそのような微調整後に減少するため、依然として有害です。
トレーニングデータが特定のエンティティに偏っている場合、モデルは過剰に表現された回答がほとんどないように回帰する傾向があります。
さらに、モデルがより自信を持つようになり、わずかなケースでの回答を提供することを拒否することがわかりました。
これらの調査結果は、LORAベースのLLMの更新の潜在的な落とし穴を強調し、データ構成とチューニングパラメーターのトレーニングの重要性を強調して、新しい知識統合と一般的なモデル機能のバランスを取ります。

要約(オリジナル)

The performance of Large Language Models (LLMs) on many tasks is greatly limited by the knowledge learned during pre-training and stored in the model’s parameters. Low-rank adaptation (LoRA) is a popular and efficient training technique for updating or domain-specific adaptation of LLMs. In this study, we investigate how new facts can be incorporated into the LLM using LoRA without compromising the previously learned knowledge. We fine-tuned Llama-3.1-8B-instruct using LoRA with varying amounts of new knowledge. Our experiments have shown that the best results are obtained when the training data contains a mixture of known and new facts. However, this approach is still potentially harmful because the model’s performance on external question-answering benchmarks declines after such fine-tuning. When the training data is biased towards certain entities, the model tends to regress to few overrepresented answers. In addition, we found that the model becomes more confident and refuses to provide an answer in only few cases. These findings highlight the potential pitfalls of LoRA-based LLM updates and underscore the importance of training data composition and tuning parameters to balance new knowledge integration and general model capabilities.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google