PruningBench: A Comprehensive Benchmark of Structural Pruning

要約

構造枝刈りは、より効率的なモデルを作成するための有望なアプローチとして浮上しています。
それにもかかわらず、コミュニティは標準化されたベンチマークや指標の欠如に悩まされており、この分野の進歩は完全には理解されていません。
このギャップを埋めるために、構造枝刈りのための \textit{PruningBench} と呼ばれる最初の包括的なベンチマークを提示します。
PruningBench には、次の 3 つの特徴があります。 1) PruningBench は、多様な構造剪定手法の有効性を評価するための統一された一貫したフレームワークを採用しています。
2) PruningBench は、幅広いモデル (CNN や ViT など) とタスク (分類や検出など) を含む 16 の既存の枝刈り手法を体系的に評価します。
3) PruningBench は、将来の剪定手法の実装を容易にするための簡単に実装可能なインターフェイスを提供し、後続の研究者が自分の研究をリーダーボードに組み込むことができるようにします。
プルーニング タスクをカスタマイズし、このホワイト ペーパーのすべての結果を再現するためのオンライン プルーニング プラットフォーム http://pruning.vipazoo.cn を提供します。
コードは https://github.com/HollyLee2000/PruningBench で公開されます。

要約(オリジナル)

Structural pruning has emerged as a promising approach for producing more efficient models. Nevertheless, the community suffers from a lack of standardized benchmarks and metrics, leaving the progress in this area not fully comprehended. To fill this gap, we present the first comprehensive benchmark, termed \textit{PruningBench}, for structural pruning. PruningBench showcases the following three characteristics: 1) PruningBench employs a unified and consistent framework for evaluating the effectiveness of diverse structural pruning techniques; 2) PruningBench systematically evaluates 16 existing pruning methods, encompassing a wide array of models (e.g., CNNs and ViTs) and tasks (e.g., classification and detection); 3) PruningBench provides easily implementable interfaces to facilitate the implementation of future pruning methods, and enables the subsequent researchers to incorporate their work into our leaderboards. We provide an online pruning platform http://pruning.vipazoo.cn for customizing pruning tasks and reproducing all results in this paper. Codes will be made publicly on https://github.com/HollyLee2000/PruningBench.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google