Motor Imagery Decoding Using Ensemble Curriculum Learning and Collaborative Training

要約

この研究では、脳波 (EEG) データからの被験者間の運動イメージ (MI) のデコードの問題を研究します。
複数の被験者の EEG データセットは、さまざまな個人間の違い (脳の解剖学的構造、性格、認知プロファイルなど) に起因する数種類のドメインのシフトを示します。
これらの領域の変化により、複数の科目のトレーニングが困難なタスクとなり、科目間の堅牢な一般化も妨げられます。
このような問題に取り組むためのドメイン一般化手法の重要性に着想を得て、複数の特徴抽出器 (第 1 段階) と共有分類器 (第 2 段階) で構築された 2 段階のモデル アンサンブル アーキテクチャを提案します。これを 2 つでエンドツーエンドでトレーニングします。
新しい損失条件。
最初の損失はカリキュラム学習を適用し、各特徴抽出者がトレーニング対象のサブセットに特化することを強制し、特徴の多様性を促進します。
2 番目の損失は、アンサンブルのモデル間で協力して知識を交換できるようにする、アンサンブル内蒸留の目的です。
私たちは、PhysioNet と OpenBMI という 2 つの大規模な MI データセットに対して被験者に依存しない実験を実施し、私たちの方法をいくつかの最先端の技術と比較します。
私たちのアルゴリズムは、大幅に少ない数のトレーニング可能なパラメーターを使用して、5 分割交差検証と 1 被験者を除外した評価設定の両方ですべての方法よりも優れたパフォーマンスを発揮します。
私たちは、カリキュラム学習と共同ト​​レーニングの力を組み合わせたモデル アンサンブル アプローチが、高い学習能力と堅牢なパフォーマンスにつながることを実証します。
私たちの研究は、複数被験者の EEG データセットにおけるドメイン シフトの問題に対処し、キャリブレーション不要のブレイン コンピューター インターフェイスへの道を切り開きます。
コードは https://github.com/gzoumpourlis/Ensemble-MI で公開しています。

要約(オリジナル)

In this work, we study the problem of cross-subject motor imagery (MI) decoding from electroencephalography (EEG) data. Multi-subject EEG datasets present several kinds of domain shifts due to various inter-individual differences (e.g. brain anatomy, personality and cognitive profile). These domain shifts render multi-subject training a challenging task and also impede robust cross-subject generalization. Inspired by the importance of domain generalization techniques for tackling such issues, we propose a two-stage model ensemble architecture built with multiple feature extractors (first stage) and a shared classifier (second stage), which we train end-to-end with two novel loss terms. The first loss applies curriculum learning, forcing each feature extractor to specialize to a subset of the training subjects and promoting feature diversity. The second loss is an intra-ensemble distillation objective that allows collaborative exchange of knowledge between the models of the ensemble. We compare our method against several state-of-the-art techniques, conducting subject-independent experiments on two large MI datasets, namely PhysioNet and OpenBMI. Our algorithm outperforms all of the methods in both 5-fold cross-validation and leave-one-subject-out evaluation settings, using a substantially lower number of trainable parameters. We demonstrate that our model ensembling approach combining the powers of curriculum learning and collaborative training, leads to high learning capacity and robust performance. Our work addresses the issue of domain shifts in multi-subject EEG datasets, paving the way for calibration-free brain-computer interfaces. We make our code publicly available at: https://github.com/gzoumpourlis/Ensemble-MI

arxiv情報

提供元, 利用サービス

arxiv.jp, Google