Actively learning a Bayesian matrix fusion model with deep side information

要約

画像と概念の高次元ディープ ニューラル ネットワーク表現を調整して、さまざまな刺激に対する人間による注釈を予測できます。
ただし、このような調整にはコストのかかる行動応答の収集が必要となるため、実際には、深い特徴空間はまばらにしかサンプリングされません。
ここでは、ディープサイド情報を含むベイズ行列因数分解モデルを効率的に学習するために、実験刺激を適応的にサンプリングするアクティブラーニングアプローチを提案します。
パッシブなベースラインを超える大幅な効率の向上が観察されます。
さらに、逐次バッチサンプリング戦略により、このアルゴリズムは、従来の実験室での実験から収集された小規模なデータセットだけでなく、事前の実験から得られた高次元の深い特徴表現を正確に位置合わせするために大規模なクラウドソーシングによるデータ収集が必要な環境にも適用できます。
訓練されたネットワーク。

要約(オリジナル)

High-dimensional deep neural network representations of images and concepts can be aligned to predict human annotations of diverse stimuli. However, such alignment requires the costly collection of behavioral responses, such that, in practice, the deep-feature spaces are only ever sparsely sampled. Here, we propose an active learning approach to adaptively sampling experimental stimuli to efficiently learn a Bayesian matrix factorization model with deep side information. We observe a significant efficiency gain over a passive baseline. Furthermore, with a sequential batched sampling strategy, the algorithm is applicable not only to small datasets collected from traditional laboratory experiments but also to settings where large-scale crowdsourced data collection is needed to accurately align the high-dimensional deep feature representations derived from pre-trained networks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google