Contextualized Machine Learning

要約

異種混合およびコンテキスト依存の効果を学習するためのパラダイムである、コンテキスト化された機械学習 (ML) を検討します。
コンテキスト化された ML は、コンテキスト情報とコンテキスト固有のパラメトリック モデルの間のメタ関係に深層学習を適用することにより、異種関数を推定します。
これは、サンプル コンテキストをモデル パラメーターに変換するコンテキスト エンコーダーと、サンプル予測子に作用するサンプル固有のモデルという 2 つの再利用可能な概念を導入することにより、クラスター分析やコホート モデリングを含む既存のフレームワークを統合する可変係数モデリングの形式です。
コンテキスト化されたモデルの開発プロセス、コンテキスト化されたモデルからのノンパラメトリック推論、およびコンテキスト化されたモデルの識別可能性の条件をレビューします。
最後に、オープンソースの PyTorch パッケージ ContextualizedML を紹介します。

要約(オリジナル)

We examine Contextualized Machine Learning (ML), a paradigm for learning heterogeneous and context-dependent effects. Contextualized ML estimates heterogeneous functions by applying deep learning to the meta-relationship between contextual information and context-specific parametric models. This is a form of varying-coefficient modeling that unifies existing frameworks including cluster analysis and cohort modeling by introducing two reusable concepts: a context encoder which translates sample context into model parameters, and sample-specific model which operates on sample predictors. We review the process of developing contextualized models, nonparametric inference from contextualized models, and identifiability conditions of contextualized models. Finally, we present the open-source PyTorch package ContextualizedML.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google