Keeping Yourself is Important in Downstream Tuning Multimodal Large Language Model

要約

マルチモーダル大手言語モデル（MLLMS）は、視覚的および言語的推論を統合して、画像キャプションや視覚的な質問応答などの複雑なタスクに対処します。
MLLMSは顕著な汎用性を示していますが、MLLMSは特別なアプリケーションでのパフォーマンスが限られているように見えます。
しかし、ダウンストリームタスクのMLLMを調整すると、2つの重要な課題に遭遇します。タスクとトレーニングとターゲットのデータセットの間の分布シフトがターゲットパフォーマンスを制限する場合、および壊滅的な忘却がモデルの一般的な知識を消し去るオープンワールドの安定化です。
この作業では、MLLMチューニング方法論における最近の進歩を体系的にレビューし、それらを3つのパラダイムに分類します：（i）選択チューニング、（ii）添加チューニング、および（iii）再分析チューニング。
さらに、標準化された評価分析と体系的なチューニング原則を確立するために、一般的なMLLMアーキテクチャと多様なダウンストリームタスクにわたってこれらのチューニング戦略をベンチマークします。
最後に、このドメインでいくつかのオープンな課題を強調し、将来の研究の方向性を提案します。
この急速に進化する分野での進行中の進歩を促進するために、開発を継続的に追跡する公開リポジトリを提供します：https：//github.com/wenkehuang/awesome-mllm-tuning。

要約(オリジナル)

Multi-modal Large Language Models (MLLMs) integrate visual and linguistic reasoning to address complex tasks such as image captioning and visual question answering. While MLLMs demonstrate remarkable versatility, MLLMs appears limited performance on special applications. But tuning MLLMs for downstream tasks encounters two key challenges: Task-Expert Specialization, where distribution shifts between pre-training and target datasets constrain target performance, and Open-World Stabilization, where catastrophic forgetting erases the model general knowledge. In this work, we systematically review recent advancements in MLLM tuning methodologies, classifying them into three paradigms: (I) Selective Tuning, (II) Additive Tuning, and (III) Reparameterization Tuning. Furthermore, we benchmark these tuning strategies across popular MLLM architectures and diverse downstream tasks to establish standardized evaluation analysis and systematic tuning principles. Finally, we highlight several open challenges in this domain and propose future research directions. To facilitate ongoing progress in this rapidly evolving field, we provide a public repository that continuously tracks developments: https://github.com/WenkeHuang/Awesome-MLLM-Tuning.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google