Make Every Example Count: On Stability and Utility of Self-Influence for Learning from Noisy NLP Datasets

要約

ますます大規模なデータセットは、NLP の最先端を進めるための標準的な要素になっています。
ただし、データ品質は、さらなる利益を引き出すためのボトルネックになっている可能性があります。
最新のデータセットの多様性とサイズを考えると、有害なデータの多面性と、複数のタスクにわたって一般化するフィルタリング ルールのとらえどころのないため、標準的なデータ フィルタリングを適用するのは簡単ではありません。
データクリーニングのトレーニング例のタスクに依存しない自己影響スコアの適合性を研究し、自然に発生する外れ値をキャプチャする際の有効性を分析し、自己影響ベースのデータクリーニングが機械翻訳、質問応答、および
テキスト分類、自己影響力計算および自動カリキュラム学習への最近のアプローチを構築します。

要約(オリジナル)

Increasingly larger datasets have become a standard ingredient to advancing the state of the art in NLP. However, data quality might have already become the bottleneck to unlock further gains. Given the diversity and the sizes of modern datasets, standard data filtering is not straight-forward to apply, because of the multifacetedness of the harmful data and elusiveness of filtering rules that would generalize across multiple tasks. We study the fitness of task-agnostic self-influence scores of training examples for data cleaning, analyze their efficacy in capturing naturally occurring outliers, and investigate to what extent self-influence based data cleaning can improve downstream performance in machine translation, question answering and text classification, building up on recent approaches to self-influence calculation and automated curriculum learning.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google