Transformer-Squared: Self-adaptive LLMs

要約

自己適応性の大規模な言語モデル（LLMS）は、多様なタスクを処理する能力において計算的に集中的で静的な従来の微調整方法によってもたらされる課題を解決することを目指しています。
重量マトリックスの特異コンポーネントのみを選択的に調整することにより、リアルタイムで目に見えないタスクにLLMSを適応させる新しい自己適応フレームワークであるTransformer-squaredを紹介します。
推論中、トランス2乗は2パスメカニズムを採用します。まず、ディスパッチシステムがタスクプロパティを識別し、次に補強学習を使用して訓練されたタスク固有の「専門家」ベクトルを識別し、動的に混合して着信プロンプトのターゲット動作を取得します。
私たちの方法は、LORAなどのユビキタスなアプローチを一貫して上回り、パラメーターが少なく、効率が高くなります。
さらに、トランス2乗は、視覚言語のタスクを含む、さまざまなLLMアーキテクチャとモダリティにわたって汎用性を示しています。
トランス2乗は、LLMSの適応性とタスク固有のパフォーマンスを向上させるためのスケーラブルで効率的なソリューションを提供し、真にダイナミックで自己組織化されたAIシステムへの道を開くための大きな飛躍を表します。

要約(オリジナル)

Self-adaptive large language models (LLMs) aim to solve the challenges posed by traditional fine-tuning methods, which are often computationally intensive and static in their ability to handle diverse tasks. We introduce Transformer-Squared, a novel self-adaptation framework that adapts LLMs for unseen tasks in real-time by selectively adjusting only the singular components of their weight matrices. During inference, Transformer-Squared employs a two-pass mechanism: first, a dispatch system identifies the task properties, and then task-specific ‘expert’ vectors, trained using reinforcement learning, are dynamically mixed to obtain targeted behavior for the incoming prompt. Our method consistently outperforms ubiquitous approaches such as LoRA, with fewer parameters and greater efficiency. Furthermore, Transformer-Squared demonstrates versatility across different LLM architectures and modalities, including vision-language tasks. Transformer-Squared represents a significant leap forward, offering a scalable, efficient solution for enhancing the adaptability and task-specific performance of LLMs, paving the way for truly dynamic, self-organizing AI systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google