Extreme AutoML: Analysis of Classification, Regression, and NLP Performance

要約

機械学習技術を利用するには、常にハイパーパラメータを選択する必要がありました。
これは、KNN などの古典的な手法を使用する場合でも、深層学習などの最新のニューラル ネットワークを使用する場合でも当てはまります。
多くのアプリケーションではハイパーパラメータは手動で選択されますが、自動化された方法がますます一般的になってきています。
これらの自動化された手法は、総称して自動機械学習 (AutoML) として知られるようになりました。
いくつかの自動選択アルゴリズムは、最先端の方法と同等または向上したパフォーマンスを示しています。
この画期的な進歩は、深層学習に基づいた Google AutoML のようなクラウドベースのサービスの開発につながり、AutoML サービスの業界リーダーとして広く考えられています。
Extreme Learning Machine (ELM) は、根本的に異なるタイプのニューラル アーキテクチャを使用し、大幅に削減された計算コストでより良い結果を生み出します。
カリフォルニア大学アーバイン校 (UCI) リポジトリのいくつかの人気のある分類データ セットと他のいくつかのデータ セットを使用して、Extreme AutoML テクノロジーを Google の AutoML と比較してベンチマークし、精度、Jaccard インデックス、Jaccard インデックスの分散における Extreme AutoML の大きな利点を観察しました。
クラス間（つまりクラスの差異）とトレーニング時間。

要約(オリジナル)

Utilizing machine learning techniques has always required choosing hyperparameters. This is true whether one uses a classical technique such as a KNN or very modern neural networks such as Deep Learning. Though in many applications, hyperparameters are chosen by hand, automated methods have become increasingly more common. These automated methods have become collectively known as automated machine learning, or AutoML. Several automated selection algorithms have shown similar or improved performance over state-of-the-art methods. This breakthrough has led to the development of cloud-based services like Google AutoML, which is based on Deep Learning and is widely considered to be the industry leader in AutoML services. Extreme Learning Machines (ELMs) use a fundamentally different type of neural architecture, producing better results at a significantly discounted computational cost. We benchmark the Extreme AutoML technology against Google’s AutoML using several popular classification data sets from the University of California at Irvine’s (UCI) repository, and several other data sets, observing significant advantages for Extreme AutoML in accuracy, Jaccard Indices, the variance of Jaccard Indices across classes (i.e. class variance) and training times.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google