Learning from Noisy Crowd Labels with Logics

要約

このホワイト ペーパーでは、ノイズの多い群集ラベルから学習するために、シンボリック ロジックの知識をディープ ニューラル ネットワークに統合する方法について説明します。
ノイジーな群集ラベルからのロジック ガイド学習 (Logic-LNCL) を紹介します。これは、ノイズの多いラベル付きデータと対象のロジック ルールの両方から学習する、EM に似た反復ロジック知識抽出フレームワークです。
従来の EM 手法とは異なり、私たちのフレームワークには、論理規則から新しいタイプの学習ターゲットを抽出する「疑似 E ステップ」が含まれています。これは、分類器をトレーニングするための「疑似 M ステップ」で使用されます。
.
テキスト感情分類と名前付きエンティティ認識のための 2 つの実世界のデータセットに対する広範な評価は、提案されたフレームワークが最先端を改善し、ノイズの多い群集ラベルから学習するための新しいソリューションを提供することを示しています。

要約(オリジナル)

This paper explores the integration of symbolic logic knowledge into deep neural networks for learning from noisy crowd labels. We introduce Logic-guided Learning from Noisy Crowd Labels (Logic-LNCL), an EM-alike iterative logic knowledge distillation framework that learns from both noisy labeled data and logic rules of interest. Unlike traditional EM methods, our framework contains a “pseudo-E-step” that distills from the logic rules a new type of learning target, which is then used in the “pseudo-M-step” for training the classifier. Extensive evaluations on two real-world datasets for text sentiment classification and named entity recognition demonstrate that the proposed framework improves the state-of-the-art and provides a new solution to learning from noisy crowd labels.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google