An Empirical Study of Scaling Law for OCR

要約

モデルのサイズ、データ量、計算、モデルのパフォーマンスの法則は、自然言語処理 (NLP) の分野で広く研究されてきました。
ただし、光学式文字認識 (OCR) におけるスケーリングの法則はまだ調査されていません。
これに対処するために、私たちは、テキスト認識分野におけるパフォーマンスとモデルの規模、データ量、計算量との相関関係の調査を含む包括的な研究を実施しました。最終的に、この研究は、パフォーマンスとモデルのサイズ、およびトレーニングの間の滑らかなべき乗則を実証しました。
他の影響要因が一定に保たれた場合のデータ量。
さらに、600 万の実際のサンプルと 1,800 万の合成サンプルで構成される REBU-Syn と呼ばれる大規模なデータセットを構築しました。
スケーリング則と新しいデータセットに基づいて、シーン テキスト認識モデルのトレーニングに成功し、6 つの一般的なテスト ベンチマークでトップ 1 の平均精度 97.42% という新しい最先端を達成しました。
モデルとデータセットは、https://github.com/large-ocr-model/large-ocr-model.github.io で公開されています。

要約(オリジナル)

The laws of model size, data volume, computation and model performance have been extensively studied in the field of Natural Language Processing (NLP). However, the scaling laws in Optical Character Recognition (OCR) have not yet been investigated. To address this, we conducted comprehensive studies that involved examining the correlation between performance and the scale of models, data volume and computation in the field of text recognition.Conclusively, the study demonstrates smooth power laws between performance and model size, as well as training data volume, when other influencing factors are held constant. Additionally, we have constructed a large-scale dataset called REBU-Syn, which comprises 6 million real samples and 18 million synthetic samples. Based on our scaling law and new dataset, we have successfully trained a scene text recognition model, achieving a new state-ofthe-art on 6 common test benchmarks with a top-1 average accuracy of 97.42%. The models and dataset are publicly available at https://github.com/large-ocr-model/large-ocr-model.github.io.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google