Evolution under Length Constraints for CNN Architecture design

要約

タイトル: CNNアーキテクチャデザインのための長さの制約下での進化
– 最近、進化アルゴリズムによって設計されたCNNアーキテクチャは、専門家によって設計された手作りのアーキテクチャと競争力を持つことが証明されています。
– しかし、これらのアルゴリズムは、多くの研究者やエンジニアの能力を超えるほどの計算資源が必要です。
– この問題を克服するために、長さの制約下での進化アーキテクチャを提案します。
– これは、最適な空間を見つけるための検索長戦略と、最適な空間内の最良の個体を見つけるための遺伝的アルゴリズムに基づく検索アーキテクチャ戦略の2つのアルゴリズムで構成されています。
– 当社のアルゴリズムは、リソースコストを大幅に削減し、優れたパフォーマンスを維持します。
– Cifar-10データセットでは、当社のフレームワークは5.12％のエラー率を示し、最適な個体に収束するために4.6GPU日しか必要としませんでした。これは、ピア競争の中で最も低コストの自動進化アルゴリズムよりも22GPU日少ないです。

要約(オリジナル)

In recent years, the CNN architectures designed by evolution algorithms have proven to be competitive with handcrafted architectures designed by experts. However, these algorithms need a lot of computational power, which is beyond the capabilities of most researchers and engineers. To overcome this problem, we propose an evolution architecture under length constraints. It consists of two algorithms: a search length strategy to find an optimal space and a search architecture strategy based on genetic algorithm to find the best individual in the optimal space. Our algorithms reduce drastically resource cost and also keep good performance. On the Cifar-10 dataset, our framework presents outstanding performance with an error rate of 5.12% and only 4.6 GPU a day to converge to the optimal individual -22 GPU a day less than the lowest cost automatic evolutionary algorithm in the peer competition.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI