Understanding quantum machine learning also requires rethinking generalization

要約

量子機械学習モデルは、少ないデータでトレーニングした場合でも成功した汎化パフォーマンスを示しています。
この研究では、体系的なランダム化実験を通じて、一般化を理解するための従来のアプローチではそのような量子モデルの動作を説明できないことを示します。
私たちの実験により、最先端の量子ニューラル ネットワークがトレーニング データのランダムな状態とランダムなラベル付けに正確に適合することが明らかになりました。
ランダム データを記憶するこの機能は、小さな一般化誤差に関する現在の概念を覆し、VC 次元、ラーデマッハ複雑さ、およびそれらのすべての均一な関連要素などの複雑さの尺度に基づいて構築されるアプローチに問題を引き起こします。
私たちは、量子ニューラルネットワークが量子状態に任意のラベルを当てはめることができることを示し、その記憶能力を示唆する理論的構築で経験的結果を補完します。
私たちの結果は、少数のトレーニング データで良好な一般化が可能である可能性を排除するものではなく、モデル ファミリの特性のみに基づいて考えられる保証を排除するものです。
これらの発見は、量子機械学習における一般化の従来の理解における根本的な課題を明らかにし、機械学習タスクの量子モデルの研究におけるパラダイムシフトの必要性を強調しています。

要約(オリジナル)

Quantum machine learning models have shown successful generalization performance even when trained with few data. In this work, through systematic randomization experiments, we show that traditional approaches to understanding generalization fail to explain the behavior of such quantum models. Our experiments reveal that state-of-the-art quantum neural networks accurately fit random states and random labeling of training data. This ability to memorize random data defies current notions of small generalization error, problematizing approaches that build on complexity measures such as the VC dimension, the Rademacher complexity, and all their uniform relatives. We complement our empirical results with a theoretical construction showing that quantum neural networks can fit arbitrary labels to quantum states, hinting at their memorization ability. Our results do not preclude the possibility of good generalization with few training data but rather rule out any possible guarantees based only on the properties of the model family. These findings expose a fundamental challenge in the conventional understanding of generalization in quantum machine learning and highlight the need for a paradigm shift in the study of quantum models for machine learning tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google