GO4Align: Group Optimization for Multi-Task Alignment

要約

この論文では、タスク間の最適化を明示的に調整することでタスクの不均衡に対処するマルチタスク最適化アプローチである \textit{GO4Align} を提案します。
これを達成するために、適応的なグループ リスク最小化戦略を設計します。この戦略は、実装時に次の 2 つの手法で構成されます。(i) 動的グループ割り当て。タスクの相互作用に基づいて同様のタスクをクラスタリングします。
(ii) リスクに基づくグループ指標。これは、以前の反復からのリスク情報との一貫したタスクの相関関係を利用します。
さまざまなベンチマークに関する包括的な実験結果は、計算コストがさらに低くても、この手法のパフォーマンスの優位性を実証しています。

要約(オリジナル)

This paper proposes \textit{GO4Align}, a multi-task optimization approach that tackles task imbalance by explicitly aligning the optimization across tasks. To achieve this, we design an adaptive group risk minimization strategy, comprising two techniques in implementation: (i) dynamical group assignment, which clusters similar tasks based on task interactions; (ii) risk-guided group indicators, which exploit consistent task correlations with risk information from previous iterations. Comprehensive experimental results on diverse benchmarks demonstrate our method’s performance superiority with even lower computational costs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google