Online Meta-learning for AutoML in Real-time (OnMAR)

要約

Automated Machine Learning（Automl）は、最適化技術を使用して機械学習（ML）アルゴリズムを設計することに焦点を当てた研究分野です。これは、人間が手動アルゴリズム設計を実行する必要性を軽減します。
リアルタイムAutomlを使用すると、MLアルゴリズムがタスクに適用されている間に設計プロセスが発生します。
リアルタイムの自動車は、既存のリアルタイムの自動車技術がデザインの品質とデザインの作成にかかる時間に関して改善する必要があるため、新興の研究分野です。
これらの問題に対処するために、この調査では、自動車のオンラインメタ学習をリアルタイム（ONMAR）アプローチで提案しています。
Meta-Learningは、MLアルゴリズムによって行われた最適化プロセスに関する情報をメタ機能の形式で収集します。
メタ機能は、最適化プロセスを最適化するためにメタ学習者と組み合わせて使用​​されます。
ONMARアプローチでは、メタ学習者を使用して、ML設計の精度を予測します。
Meta-Learnerによって予測される精度が十分である場合、設計が使用され、予測される精度が低い場合、最適化手法は新しい設計を作成します。
遺伝的アルゴリズム（GA）は、ONMARアプローチの一部として使用される最適化手法です。
さまざまなメタ学習者（K-Nearest Neighbors、Random Forest、Xgboost）がテストされています。
ONMARアプローチはモデルに依存している（つまり、単一のリアルタイムAutomlアプリケーションに固有のものではない）ため、3つの異なるリアルタイムAutomlアプリケーションで評価されます。つまり、画像クラスタリングアルゴリズムの作成、畳み込みニューラルネットワークのハイパーパラメータの構成、ビデオ分類パイプラインの構成。
ONMARアプローチは効果的であり、既存のリアルタイムAutomlアプローチをマッチングまたはアウトパフォームしており、ランタイムが高速であるという利点が追加されています。

要約(オリジナル)

Automated machine learning (AutoML) is a research area focusing on using optimisation techniques to design machine learning (ML) algorithms, alleviating the need for a human to perform manual algorithm design. Real-time AutoML enables the design process to happen while the ML algorithm is being applied to a task. Real-time AutoML is an emerging research area, as such existing real-time AutoML techniques need improvement with respect to the quality of designs and time taken to create designs. To address these issues, this study proposes an Online Meta-learning for AutoML in Real-time (OnMAR) approach. Meta-learning gathers information about the optimisation process undertaken by the ML algorithm in the form of meta-features. Meta-features are used in conjunction with a meta-learner to optimise the optimisation process. The OnMAR approach uses a meta-learner to predict the accuracy of an ML design. If the accuracy predicted by the meta-learner is sufficient, the design is used, and if the predicted accuracy is low, an optimisation technique creates a new design. A genetic algorithm (GA) is the optimisation technique used as part of the OnMAR approach. Different meta-learners (k-nearest neighbours, random forest and XGBoost) are tested. The OnMAR approach is model-agnostic (i.e. not specific to a single real-time AutoML application) and therefore evaluated on three different real-time AutoML applications, namely: composing an image clustering algorithm, configuring the hyper-parameters of a convolutional neural network, and configuring a video classification pipeline. The OnMAR approach is effective, matching or outperforming existing real-time AutoML approaches, with the added benefit of a faster runtime.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google