Integration Of Evolutionary Automated Machine Learning With Structural Sensitivity Analysis For Composite Pipelines

要約

自動機械学習 (AutoML) システムは、特定の機械学習の問題に対するエンドツーエンドのソリューションを提案し、固定または柔軟なパイプラインを作成します。
固定パイプラインはタスクに依存しない構造です。その一般的な構成は、データに関係なく同じままです。
対照的に、フレキシブル パイプラインの構造は入力に応じて変化し、個々のタスクに合わせて細かく調整されます。
ただし、柔軟なパイプラインは構造的に複雑すぎる可能性があり、説明可能性が低くなります。
私たちは、柔軟なソリューションの堅牢性と解釈可能性を高める感度分析を組み込むことで、柔軟なパイプラインのマイナス点を補う EVOSA アプローチを提案します。
EVOSA は、パイプライン グラフ上のエッジまたはノードのプラスとマイナスの影響を定量的に推定し、この情報を進化的な AutoML オプティマイザーにフィードします。
EVOSA の正確性と効率性は、表形式、マルチモーダル、およびコンピューター ビジョン タスクで検証され、提案されたアプローチがドメイン間で一般化できることが示唆されました。

要約(オリジナル)

Automated machine learning (AutoML) systems propose an end-to-end solution to a given machine learning problem, creating either fixed or flexible pipelines. Fixed pipelines are task independent constructs: their general composition remains the same, regardless of the data. In contrast, the structure of flexible pipelines varies depending on the input, making them finely tailored to individual tasks. However, flexible pipelines can be structurally overcomplicated and have poor explainability. We propose the EVOSA approach that compensates for the negative points of flexible pipelines by incorporating a sensitivity analysis which increases the robustness and interpretability of the flexible solutions. EVOSA quantitatively estimates positive and negative impact of an edge or a node on a pipeline graph, and feeds this information to the evolutionary AutoML optimizer. The correctness and efficiency of EVOSA was validated in tabular, multimodal and computer vision tasks, suggesting generalizability of the proposed approach across domains.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google