GO4Align: Group Optimization for Multi-Task Alignment

要約

この論文では、タスク間の最適化を明示的に調整することでタスクの不均衡に対処するマルチタスク最適化アプローチである \textit{GO4Align} を提案します。
これを達成するために、私たちは適応的なグループ リスク最小化戦略を設計し、実装において 2 つの重要な手法を犠牲にします。(i) 動的グループ割り当て。タスクの相互作用に基づいて同様のタスクをクラスタリングします。
(ii) リスクに基づくグループ指標。これは、以前の反復からのリスク情報との一貫したタスクの相関関係を利用します。
さまざまな典型的なベンチマークに関する包括的な実験結果は、計算コストがさらに低くても、この手法のパフォーマンスの優位性を実証しています。

要約(オリジナル)

This paper proposes \textit{GO4Align}, a multi-task optimization approach that tackles task imbalance by explicitly aligning the optimization across tasks. To achieve this, we design an adaptive group risk minimization strategy, compromising two crucial techniques in implementation: (i) dynamical group assignment, which clusters similar tasks based on task interactions; (ii) risk-guided group indicators, which exploit consistent task correlations with risk information from previous iterations. Comprehensive experimental results on diverse typical benchmarks demonstrate our method’s performance superiority with even lower computational costs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google