HiveNAS: Neural Architecture Search using Artificial Bee Colony Optimization

要約

従来のニューラル ネットワーク開発プロセスでは、かなりの専門知識が必要であり、直感と試行錯誤に大きく依存しています。
Neural Architecture Search (NAS) フレームワークは、ネットワーク トポロジを堅牢に検索し、ニューラル ネットワークの自動開発を促進するために導入されました。
遺伝的アルゴリズムなどの一部の最適化アプローチは NAS のコンテキストで広く調査されていますが、他のメタヒューリスティック最適化アルゴリズムはまだ調査されていません。
この研究では、ニューラル アーキテクチャ検索のための人工蜂コロニー最適化の実行可能性を評価します。
私たちが提案するフレームワークである HiveNAS は、既存の最先端の Swarm Intelligence ベースの NAS フレームワークをわずかな時間で上回ります。

要約(オリジナル)

The traditional Neural Network-development process requires substantial expert knowledge and relies heavily on intuition and trial-and-error. Neural Architecture Search (NAS) frameworks were introduced to robustly search for network topologies, as well as facilitate the automated development of Neural Networks. While some optimization approaches — such as Genetic Algorithms — have been extensively explored in the NAS context, other Metaheuristic Optimization algorithms have not yet been investigated. In this study, we evaluate the viability of Artificial Bee Colony optimization for Neural Architecture Search. Our proposed framework, HiveNAS, outperforms existing state-of-the-art Swarm Intelligence-based NAS frameworks in a fraction of the time.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google