AutoML in Heavily Constrained Applications

要約

当面のタスクに合わせて機械学習パイプラインを最適化するには、さまざまなハイパーパラメータを慎重に構成する必要があります。これは通常、特定のトレーニング データセットのハイパーパラメータを最適化する AutoML システムによってサポートされます。
ただし、AutoML システム自体の 2 次メタ構成に応じて、AutoML プロセスのパフォーマンスは大きく異なる可能性があります。
現在の AutoML システムは、独自の構成を特定のユースケースに自動的に適応させることができません。
さらに、パイプラインとその生成の有効性と効率に関するユーザー定義のアプリケーション制約をコンパイルすることもできません。
この論文では、メタ学習を使用して、検索戦略、検証戦略、検索空間などの独自の AutoML パラメーターを当面のタスクに自動的に適応させる Caml を提案します。
Caml の動的な AutoML 戦略は、ユーザー定義の制約を考慮し、高い予測パフォーマンスを備えた制約を満たすパイプラインを取得します。

要約(オリジナル)

Optimizing a machine learning pipeline for a task at hand requires careful configuration of various hyperparameters, typically supported by an AutoML system that optimizes the hyperparameters for the given training dataset. Yet, depending on the AutoML system’s own second-order meta-configuration, the performance of the AutoML process can vary significantly. Current AutoML systems cannot automatically adapt their own configuration to a specific use case. Further, they cannot compile user-defined application constraints on the effectiveness and efficiency of the pipeline and its generation. In this paper, we propose Caml, which uses meta-learning to automatically adapt its own AutoML parameters, such as the search strategy, the validation strategy, and the search space, for a task at hand. The dynamic AutoML strategy of Caml takes user-defined constraints into account and obtains constraint-satisfying pipelines with high predictive performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google