Zero-shot meta-learning for small-scale data from human subjects

要約

タイトル：人間の被験者からの小規模データに対するゼロショットメタラーニング
要約：
– 機械学習の発展により、多くの大量のデータに対する大幅な性能向上が実現されたが、多数の人間の被験者データは実際には小規模で、ラベル付けも不十分である。
– このようなデータに対して適用される既存の手法は、外部標本からの予測において一般化が容易ではないため、モデルはゼロショット学習と呼ばれる問題を抱えている。
– この課題に対応するため、我々はメタラーニングアプローチを用いたエンドツーエンドのフレームワークを開発した。これにより、モデルは新しい予測タスクに迅速に適応し、外部標本のテストデータに対して限られた訓練データで予測を行うことができる。
– この研究では、2つのランダム化対照研究と1つの観察研究の3つの実世界の小規模な人間の被験者データセットを使用し、保持された治療グループの治療成績を予測する。
– モデルは各介入の潜在的な治療効果を学習し、マルチタスク予測を自然に処理することができる。
– 結果として、当社のモデルは全体的に最もよいものであり、特にテストグループがトレーニンググループと明確に異なる場合に有効であることが示された。
– 当社のモデルは、小規模な人間研究の改善された一般化につながる。

要約(オリジナル)

While developments in machine learning led to impressive performance gains on big data, many human subjects data are, in actuality, small and sparsely labeled. Existing methods applied to such data often do not easily generalize to out-of-sample subjects. Instead, models must make predictions on test data that may be drawn from a different distribution, a problem known as \textit{zero-shot learning}. To address this challenge, we develop an end-to-end framework using a meta-learning approach, which enables the model to rapidly adapt to a new prediction task with limited training data for out-of-sample test data. We use three real-world small-scale human subjects datasets (two randomized control studies and one observational study), for which we predict treatment outcomes for held-out treatment groups. Our model learns the latent treatment effects of each intervention and, by design, can naturally handle multi-task predictions. We show that our model performs the best holistically for each held-out group and especially when the test group is distinctly different from the training group. Our model has implications for improved generalization of small-size human studies to the wider population.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI