Task-Agnostic Experts Composition for Continual Learning

要約

構成性は、複雑な問題を単純な要素に分解できるようにする人間の推論プロセスの基本的な能力の1つです。
このようなプロパティは、特により効率的で持続可能なAIフレームワークを目指す場合、ニューラルネットワークにとっても重要です。
Zero-shotをゼロショットにして、一連のエキスパートモデルをゼロショットして、構成性の機能をテストするように設計された挑戦的なベンチマークを使用して方法論を評価することにより、構成アプローチを提案します。
専門家の構成方法は、より少ない計算リソースを必要としながら、ベースラインアルゴリズムよりもはるかに高い精度を達成できるため、より効率的であることを示しています。

要約(オリジナル)

Compositionality is one of the fundamental abilities of the human reasoning process, that allows to decompose a complex problem into simpler elements. Such property is crucial also for neural networks, especially when aiming for a more efficient and sustainable AI framework. We propose a compositional approach by ensembling zero-shot a set of expert models, assessing our methodology using a challenging benchmark, designed to test compositionality capabilities. We show that our Expert Composition method is able to achieve a much higher accuracy than baseline algorithms while requiring less computational resources, hence being more efficient.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google