FeatureEnVi: Visual Analytics for Feature Engineering Using Stepwise Selection and Semi-Automatic Extraction Approaches

要約

機械学習 (ML) のライフ サイクルには、複雑な特徴量エンジニアリング プロセスを含むデータの効果的な収集と準備から、結果の表示と改善に至る一連の反復的なステップが含まれており、各ステップでさまざまなアルゴリズムを選択できます。
特に特徴量エンジニアリングは ML にとって非常に有益であり、予測結果の向上、計算時間の短縮、過剰なノイズの削減、トレーニング中に行われた決定の背後にある透明性の向上など、数多くの改善がもたらされます。
それにもかかわらず、ML ライフサイクルのさまざまな段階 (特にデータとアルゴリズムに関連する段階) を監視および制御するためのビジュアル分析ツールがいくつか存在しますが、特徴量エンジニアリングのサポートは依然として不十分です。
このペーパーでは、特徴量エンジニアリング プロセスを支援するために特別に設計されたビジュアル分析システムである、FeatureEnVi について紹介します。
私たちが提案するシステムは、ユーザーが最も重要な機能を選択し、元の機能を強力な代替機能に変換し、さまざまな機能生成の組み合わせを実験するのに役立ちます。
さらに、データ スペースのスライスにより、ユーザーはローカル スケールとグローバル スケールの両方で機能の影響を調査できます。
FeatureEnVi は複数の自動特徴選択技術を利用します。
さらに、各機能 (または機能のサブセット) の影響に関する統計的証拠を使用してユーザーを視覚的にガイドします。
最終的な結果は、複数の検証メトリクスによって評価された、高度に設計された機能の抽出です。
FeatureEnVi の有用性と適用性を 2 つの使用例とケーススタディで示します。
また、システムの有効性を評価した 2 人の ML 専門家と視覚化研究者へのインタビューからのフィードバックも報告します。

要約(オリジナル)

The machine learning (ML) life cycle involves a series of iterative steps, from the effective gathering and preparation of the data, including complex feature engineering processes, to the presentation and improvement of results, with various algorithms to choose from in every step. Feature engineering in particular can be very beneficial for ML, leading to numerous improvements such as boosting the predictive results, decreasing computational times, reducing excessive noise, and increasing the transparency behind the decisions taken during the training. Despite that, while several visual analytics tools exist to monitor and control the different stages of the ML life cycle (especially those related to data and algorithms), feature engineering support remains inadequate. In this paper, we present FeatureEnVi, a visual analytics system specifically designed to assist with the feature engineering process. Our proposed system helps users to choose the most important feature, to transform the original features into powerful alternatives, and to experiment with different feature generation combinations. Additionally, data space slicing allows users to explore the impact of features on both local and global scales. FeatureEnVi utilizes multiple automatic feature selection techniques; furthermore, it visually guides users with statistical evidence about the influence of each feature (or subsets of features). The final outcome is the extraction of heavily engineered features, evaluated by multiple validation metrics. The usefulness and applicability of FeatureEnVi are demonstrated with two use cases and a case study. We also report feedback from interviews with two ML experts and a visualization researcher who assessed the effectiveness of our system.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google