Dynamic Channel Selection in Self-Supervised Learning

要約

自己監視アプローチを使用して構築されたコンピュータビジョンモデルは現在では一般的ですが、いくつかの重要な質問が残っています。
自己教師ありモデルは、冗長性の高いチャネル機能を学習しますか？
自己監視型ネットワークが重要なチャネルを動的に選択し、不要なチャネルを取り除くことができるとしたらどうでしょうか。
現在、自己監視で事前にトレーニングされたconvnetは、コンピュータビジョンで監視されている対応するものと比較して、ダウンストリームタスクで同等のパフォーマンスを取得しています。
ただし、自己監視モデルには、多数のパラメーター、計算コストの高いトレーニング戦略、ダウンストリームタスクでのより高速な推論の明確な必要性などの欠点があります。
この作業では、教師あり学習用に開発された標準チャネル選択方法を自己監視でトレーニングされたネットワークに適用する方法を研究することにより、後者に対処することを目標としています。
さまざまなデータセット、具体的にはCIFAR-10、CIFAR-100、ImageNet-100にわたる画像分類タスクのチャネル計算について、さまざまなターゲット予算$ t_ {d} $に関する調査結果を検証し、元のネットワークと同等のパフォーマンスを実現します。
すべてのチャネルを選択する場合ですが、FLOPに関して報告される計算が大幅に削減されます。

要約(オリジナル)

Whilst computer vision models built using self-supervised approaches are now commonplace, some important questions remain. Do self-supervised models learn highly redundant channel features? What if a self-supervised network could dynamically select the important channels and get rid of the unnecessary ones? Currently, convnets pre-trained with self-supervision have obtained comparable performance on downstream tasks in comparison to their supervised counterparts in computer vision. However, there are drawbacks to self-supervised models including their large numbers of parameters, computationally expensive training strategies and a clear need for faster inference on downstream tasks. In this work, our goal is to address the latter by studying how a standard channel selection method developed for supervised learning can be applied to networks trained with self-supervision. We validate our findings on a range of target budgets $t_{d}$ for channel computation on image classification task across different datasets, specifically CIFAR-10, CIFAR-100, and ImageNet-100, obtaining comparable performance to that of the original network when selecting all channels but at a significant reduction in computation reported in terms of FLOPs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google