Improving FHB Screening in Wheat Breeding Using an Efficient Transformer Model

要約

赤かび病は、小さな穀物に毎年重大な経済的損失をもたらす壊滅的な病気です。
耐性スクリーニングにおける FHB の効率、正確さ、タイムリーな検出は、小麦および大麦の育種プログラムにとって非常に重要です。
近年、FHBの早期検出のために、教師あり機械学習アルゴリズムを使用したさまざまな画像処理技術が開発されています。
U-Net などの最先端の畳み込みニューラル ネットワーク ベースの手法では、一連のエンコード ブロックを使用してローカル表現を作成し、一連のデコード ブロックを使用して意味関係をキャプチャします。
ただし、これらの方法では、入力データ内の依存関係を長距離モデリングできないことが多く、テクスチャや形状に大きな変化があるマルチスケール オブジェクトをモデリングする能力は限られています。
シーケンス間の予測のための固有のグローバル セルフ アテンション メカニズムを備えた代替アーキテクチャとしてのビジョン トランスフォーマーも、低レベルの詳細が不十分であるため、位置特定機能を制限する可能性があります。
これらの制限を克服するために、U-Net ネットワークのローカル表現機能をトランスフォーマー モデルに統合する新しいコンテキスト ブリッジが提案されています。
さらに、元のトランスフォーマーの標準的なアテンション メカニズムは、他の最先端の方法よりも複雑ではない効率的なセルフ アテンションに置き換えられます。
提案されたネットワークをトレーニングするために、サウスダコタ州ヴォルガにある SDSU 研究農場にある FHB を接種した小麦畑から 12,000 枚の小麦画像が取得されました。
健康な植物と不健康な植物に加えて、これらの画像には病気のさまざまな段階が含まれています。
専門の病理学者のチームが、開発されたモデルのトレーニングと評価のために画像に注釈を付けました。
その結果、植物画像セグメンテーションの典型的なタスクにわたる広範な実験を通じて、FHB 疾患検出のためのトランスベースの方法の有効性が実証されました。

要約(オリジナル)

Fusarium head blight is a devastating disease that causes significant economic losses annually on small grains. Efficiency, accuracy, and timely detection of FHB in the resistance screening are critical for wheat and barley breeding programs. In recent years, various image processing techniques have been developed using supervised machine learning algorithms for the early detection of FHB. The state-of-the-art convolutional neural network-based methods, such as U-Net, employ a series of encoding blocks to create a local representation and a series of decoding blocks to capture the semantic relations. However, these methods are not often capable of long-range modeling dependencies inside the input data, and their ability to model multi-scale objects with significant variations in texture and shape is limited. Vision transformers as alternative architectures with innate global self-attention mechanisms for sequence-to-sequence prediction, due to insufficient low-level details, may also limit localization capabilities. To overcome these limitations, a new Context Bridge is proposed to integrate the local representation capability of the U-Net network in the transformer model. In addition, the standard attention mechanism of the original transformer is replaced with Efficient Self-attention, which is less complicated than other state-of-the-art methods. To train the proposed network, 12,000 wheat images from an FHB-inoculated wheat field at the SDSU research farm in Volga, SD, were captured. In addition to healthy and unhealthy plants, these images encompass various stages of the disease. A team of expert pathologists annotated the images for training and evaluating the developed model. As a result, the effectiveness of the transformer-based method for FHB-disease detection, through extensive experiments across typical tasks for plant image segmentation, is demonstrated.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google