Generative Transfer Learning: Covid-19 Classification with a few Chest X-ray Images

要約

医用画像による病気の発見は、その非侵襲的な性質から好まれています。医用画像は、人体の内部を徹底的にかつ迅速に見ることができる複数のモダリティのデータをサポートしています。しかし、画像データの解釈には時間がかかることが多く、多くの人間の専門知識が必要とされます。ディープラーニングモデルは、解釈を迅速化し、人間の専門家の作業を軽減することができます。しかし、これらのモデルはデータ量が多く、学習のために大量のラベル付けされた画像を必要とします。Covid-19のような新しい病気の発生時には、特に流行の初期には、必要なラベル付き画像データがないことが多いのです。Deep Transfer Learningは、VGGNet、ResNet、Inception、DenseNetなどの変種など、パブリックドメインの事前学習済みモデルを特徴学習器として使用し、少ないサンプルからターゲットタスクに迅速に適応することでこの問題を解決します。ほとんどの事前学習済みモデルは、複雑なアーキテクチャを持つディープモデルです。これらのモデルはImageNetのような大規模なマルチクラスデータセットを用いて学習され、アーキテクチャ設計やハイパーパラメータのチューニングに多大な人手をかけている。我々は、単一の、しかし関連する概念について事前学習した、より単純な生成元モデルが、既存の大規模な事前学習済みモデルと同等の性能を発揮できることを示した。我々は、Covid-19バイナリ分類のユースケースで、Few Shot Learning（FSL）のために、より少ない計算とトレーニングデータを必要とする生成的な転送学習の有用性を実証する。古典的な深層伝達学習と我々のアプローチを比較し、84、20、10トレーニングサンプルの3つの設定でのFSLの結果も報告する。Covid-19分類のための生成的FSLのモデル実装は、https://github.com/suvarnak/GenerativeFSLCovid.git で一般に公開されています。

要約(オリジナル)

Detection of diseases through medical imaging is preferred due to its non-invasive nature. Medical imaging supports multiple modalities of data that enable a thorough and quick look inside a human body. However, interpreting imaging data is often time-consuming and requires a great deal of human expertise. Deep learning models can expedite interpretation and alleviate the work of human experts. However, these models are data-intensive and require significant labeled images for training. During novel disease outbreaks such as Covid-19, we often do not have the required labeled imaging data, especially at the start of the epidemic. Deep Transfer Learning addresses this problem by using a pretrained model in the public domain, e.g. any variant of either VGGNet, ResNet, Inception, DenseNet, etc., as a feature learner to quickly adapt the target task from fewer samples. Most pretrained models are deep with complex architectures. They are trained with large multi-class datasets such as ImageNet, with significant human efforts in architecture design and hyper parameters tuning. We presented 1 a simpler generative source model, pretrained on a single but related concept, can perform as effectively as existing larger pretrained models. We demonstrate the usefulness of generative transfer learning that requires less compute and training data, for Few Shot Learning (FSL) with a Covid-19 binary classification use case. We compare classic deep transfer learning with our approach and also report FSL results with three settings of 84, 20, and 10 training samples. The model implementation of generative FSL for Covid-19 classification is available publicly at https://github.com/suvarnak/GenerativeFSLCovid.git.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL