Extensions of regret-minimization algorithm for optimal design

要約

最適な実験設計の問題を解決するために、〜\ cite {design}によって導入された後悔の最小化フレームワークの拡張とアプリケーションを調査します。
具体的には、このフレームワークにエントロピーリガイザーを組み込み、新しいサンプル選択目標と、$（1+ \ epsilon）$を保証する証明可能なサンプルの複雑さにつながります。
さらに、この方法を拡張して、正規化された最適な設計設定を処理します。
アプリケーションとして、アルゴリズムを使用して、ラベル情報に依存せずに画像分類データセットから代表的なサンプルの小さなセットを選択します。
選択したサンプルの品質を評価するために、ロジスティック回帰モデルをトレーニングし、いくつかのベースラインサンプリング戦略とパフォーマンスを比較します。
MNIST、CIFAR-10、およびImagenetの50クラスのサブセットに関する実験結果は、ほとんどの場合、私たちのアプローチが競合する方法よりも一貫して優れていることを示しています。

要約(オリジナル)

We explore extensions and applications of the regret minimization framework introduced by~\cite{design} for solving optimal experimental design problems. Specifically, we incorporate the entropy regularizer into this framework, leading to a novel sample selection objective and a provable sample complexity bound that guarantees a $(1+\epsilon)$-near optimal solution. We further extend the method to handle regularized optimal design settings. As an application, we use our algorithm to select a small set of representative samples from image classification datasets without relying on label information. To evaluate the quality of the selected samples, we train a logistic regression model and compare performance against several baseline sampling strategies. Experimental results on MNIST, CIFAR-10, and a 50-class subset of ImageNet show that our approach consistently outperforms competing methods in most cases.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google